2026年1月9日　NY州の政府機関はADMT (自動意思決定ツール) の利用を開示及び報告し、年次ADMTリストを公表しなければならない。利用前及び2年ごと、又は重大な変更時には影響評価を実施し、これらの評価を州知事及び議会に提出する。ただし、安全保障、プライバシー、安全上の理由による限定的な編集は認められる。当局は州の全ADMツールリストを維持し、毎年NY州オープンデータウェブサイトに掲載する。各機関は必要な情報を提供する。

【At a Glance】

主な規定

  • 自動意思決定ツール (ADMT) の利用を行う政府機関は、施行日以降、毎年翌年12月30日までに、自機関のウェブサイトに説明、開始日、目的、その他関連情報を含む年次リストを公表しなければならない：
  • 各機関は、ADMTの利用前、少なくとも2年ごと、又は以下の事項に影響を与える重大な変更前に影響評価を実施しなければならない：
    • 結果 (目的、有効性、開発 (アルゴリズム、AI技術、設計、トレーニングデータ) を含む)
    • 正確性、公平性、バイアス、差別、サイバーセキュリティ、プライバシー、安全リスク、誤用、安全保護措置に関するテスト
  • 影響評価では、センシティブデータ・個人データの利用・保管、ユーザー管理、影響を受ける個人への通知手続きも評価しなければならない
    • 差別的又は偏った結果が確認された場合、当該ツール及びそれが生成したデータは使用を中止しなければならない
  • 影響評価では以下を実施しなければならない：
    • ADMT実施の少なくとも30日前までに、知事、上院臨時議長、下院議長に提出すること
    • オンラインで公開すること
    • 健康、安全、プライバシー、セキュリティ上の理由による情報削除は、説明が必要なものの許される
      • セキュリティ対策、詐欺防止、法執行ツールについても情報削除が認められる
  • 当局は州の全ADMTの年次目録を作成し、必要データに関する指針を各機関に発行し、毎年12月30日までにNY州オープンデータウェブサイトに目録を掲載する
    • 各機関は60日前までに情報を提出する。開示がITセキュリティを危険にさらす場合、特定情報は非開示とすることができる
  • 既存のADMTを利用している機関は、発効日から 1 年以内に州議会に開示を提出しなければならない
  • AIの利用及びADMTの利用
    • 団体交渉協定、代表関係、雇用条件、福利厚生、公務員としての地位、又は組合員としての権利に影響を与えてはならない
    • 従業員の解雇、職の喪失、労働時間の短縮、賃金、福利厚生の削減、従業員から AI / ADMT への職務の移転を引き起こしてはならない
  • これらの従業員保護は、教育委員会、協同教育サービス委員会、NY州立大学 (State University of New York, SUNY) 、ニューヨーク市立大学 (City University of New York, CUNY) 、コミュニティカレッジに適用される
    • また、既存の権利、義務、団体交渉による保護を維持するため、公務員法の改正にも反映される
【In Depth】

定義

  • 「自動意思決定ツール (Automated Decision Making Tool, ADMT) 」：
    • アルゴリズム、計算モデル、人工知能 (AI) 技術、又はそれらの組み合わせを利用して、人間の意思決定を自動化、支援、代替するソフトウェアを指す
    • ただし以下は含まれない：
      • 主に基本的なコンピュータ処理に利用されるソフトウェア。例えば計算機、スペルチェックツール、自動修正機能、スプレッドシート、電子通信、内部管理業務のみに関連するツール
        • 例えば、事務用品の発注や支払処理など。また、州内の個人の権利、自由、利益、安全、福祉に実質的な影響を与えないもの
      • 本章第401条で定義される「automated employment decision-making tools (自動雇用意思決定ツール) 」
  • 「有意義な人間による審査」(Meaningful human review)
    • 自動意思決定プロセスについて、ADMTの利用やADMT及び審査対象の決定に介入又は変更する権限を持ち、ADMTのリスク、限界、機能性を理解し、トレーニングを受けた一人以上の個人によるレビュー、監視、管理
      • 自動化ツールが推奨又は下したいかなる決定についても、承認、却下、又は修正する能力を含むが、それに限定されない

政府機関による自動意思決定ツールの開示

  • ADMTを利用する政府機関は、その有効日後、毎年12月30日までに、ADMTの全リストをウェブサイト上で公表しなければならない
  • 開示には以下を含めなければならない：
    • 利用される各ADMTの説明
    • ツールの利用開始日
    • その目的と利用方法の概要
    • その他、当該機関が関連すると判断する情報

影響評価

  • 各機関は、ADMTを利用する前に、またその後少なくとも2年ごとに、あるいはツールの結果に影響を与える重要な変更を行う前に、影響評価を実施しなければならない
  • 影響評価には以下を含めなければならない：
    • ADMTの目的の説明
    • ツールが目的を達成する能力の評価
    • 開発内容の説明と評価 (アルゴリズム、計算モデル、AI技術、設計、トレーニングデータを含む)
    • 以下の項目に関するテスト：
      • 正確性、公平性、バイアス、差別性 (保護対象グループ間の差別的結果に対する緩和策を含む)
      • サイバーセキュリティ上の脆弱性とプライバシーリスク (安全保護措置を含む)
      • 公衆衛生又は安全上のリスク
      • 予見可能な誤用と誤用防止策
    • 利用されるセンシティブな個人データ、保管方法、ユーザー管理の評価
    • 影響を受ける個人への通知プロシージャー (データ利用と権利を含む)
  • 評価で差別的又は偏った結果が判明した場合、当該機関は当該ツール及びそれによって生成された情報の利用を中止しなければならない

知事及び議会への提出

  • 全ての影響評価は、ADMT実施の少なくとも30日前までに知事、上院臨時議長、下院議長に提出しなければならない
  • 評価は機関のウェブサイトに掲載されなければならない
  • 機関は、開示が以下のいずれかに該当する場合、情報を編集できる：
    • 重大な公衆衛生又は安全上のリスクをもたらす場合
    • プライバシー権を違反する場合
    • IT又は運用上の安全性を損なう場合
  • 編集された評価書には、機関の判断プロセスに関する説明文を添付する必要がある
  • また、セキュリティ、詐欺防止、調査、法執行活動に関連するツールについても、説明文を添付すれば編集が許可される

自動意思決定ツールのインベントリ

  • 当局は全州のADMTのインベントリを管理する
  • 州機関に対し、提出すべきデータ (目的及び利用を含む) に関する指針を発行する
  • インベントリは、毎年12月30日までにNY州オープンデータウェブサイトに掲載され、各機関は掲載の60日前までに情報を提出しなければならない
  • 情報開示がITセキュリティを脅かす場合、又は法律で定められた場合、特定の情報は非開示とすることができる
  • 各機関は事務局に対し情報提供と協力をしなければならない
  • 事務局は目録の写しを知事、上院臨時議長、下院議長に提出する

既存の自動意思決定ツールの開示

  • ADMTを利用している機関は、施行日から1年以内に議会へ開示を提出しなければならない
  • 開示には以下を含める必要がある：
    • ADMTの説明
    • 関連するソフトウェアベンダー
    • 利用開始日
    • 目的と補助又は代替される人間の意思決定の概要
    • 実施された影響評価 (実施日と結果を含む)
    • その他の関連情報

従業員及び教育機関に対する保護

  • AIの利用及びADMTの利用は、以下に影響を与えてはならない：
    • 団体交渉協定に基づく既存の従業員の権利
    • 従業員組織間の代表関係
  • 利用は、以下をもたらしてはならない：
    • 解雇、職の喪失、職位の喪失 (労働時間、賃金、福利厚生の削減を含む)
    • 団体交渉協定の侵害
    • 従業員からAI / ADMTへの職務の移転
  • その利用は、従業員の権利、福利厚生、特権、公務員としての地位を変更してはならない
  • これらの保護は、以下に適用される：
    • 教育委員会
    • 協同教育サービス委員会
    • SUNY、CUNY、コミュニティカレッジ
【Source Title and Document】
S7599C and A8295D – Automated decision-making by government agencies – NY State Legislature