2024年9月23日　カリフォルニア州では、AIの透明性を高めるためのAI透明性法 (the AI Transparency Act) (SB 942) が成立している。事業者はAI検出ツールを無料で提供し、コンテンツが生成AIで作成、改変したものであるかをユーザーが判断できるようにしなければならず、ユーザーが提供した個人情報やコンテンツを必要以上に取得、保管してはならない。AIが生成したコンテンツには、その旨の開示、あるいはスカシを入れる義務が課される。ライセンス供与先のサードパーティーがスカシを意図的に消した場合にはライセンスを取り消さなければならない。
有料会員になって頂くと、以下のコンテンツをご覧いただけます。
  • 【What’s Happening】 ・・・概要
  • 【At a Glance】・・・要点
  • 【In Depth】・・・情報の詳細
  • 【Essential insights】・・・情報のポイント
  • 【情報ソース】・・・情報の出所(オリジナル情報へのリンク)
【What’s Happening】
2024年9月19日、カリフォルニア州知事は、AIの透明性を高めるための AI透明性法 (the AI Transparency Act, aimed at increasing artificial intelligence, SB 942) に署名した。この法律は、AIによって変更されたコンテンツを表示するための検出リソースを提供することで、ユーザーに対するAIの透明性を向上させることを目的としている。2026年1月1日より施行される。
【At a Glance】
適用範囲 この法律は、ユーザーが生成したコンテンツ以外のビデオゲーム、テレビ、ストリーミング、映画、インタラクティブ体験を提供する製品、サービス、インターネットウェブサイト、アプリケーションには適用されない。 主な義務 AI検出ツール
  • ユーザーは対象事業者 (covered provider) の生成AI システムによって、コンテンツが作成または改変されたかを評価することができる
  • アップロードされたコンテンツで検出されたシステム来歴データはすべて表示するが、個人来歴データは表示しない
  • ユーザーが対象事業者のインターネットウェブサイトにアクセスすることなく利用できるAPIをサポートする
  • 一般に公開し、無料で使用できるが、必要に応じて合理的な制限を設けることもできる
AI検出ツール利用時の禁止事項 禁止事項
  • AI 検出ツールから収集したユーザーの個人情報を、連絡を希望する旨の同意をユーザーから得た場合を除き、取得または保管しないこと
  • AI 検出ツールに送信したコンテンツを、必要以上に長期間保管しないこと
  • ユーザーが AI 検出ツールに送信したコンテンツの個人来歴データを保管しないこと
AI開示 (AI disclosure)の要件と特徴 生成 AI システムで作成変更したコンテンツについて、当該コンテンツがAI生成コンテンツであることを明示するかユーザーに選択肢を与えなければならない。この開示は、明確で目立ち、適切かつ理解しやすい形式で行い、かつ恒久的なもの、或いは極めて削除が困難なものでなければならない。 AI生成コンテンツに付与するスカシの要件は、以下を満たす必要がある：
  • 対象事業者の名称、生成AI システムの名称およびバージョン番号、コンテンツの作成/変更日時、および固有識別子を含むこと
  • AI 検出ツールが検出可能であること
  • 恒久的なもの、或いは極めて削除が困難なものであること
サードパーティのライセンシー
  • サードパーティのライセンシーに対しては、システムが作成、変更するコンテンツに必要な開示情報を表示するためのシステムの機能を維持することを契約で義務付けること
  • サードパーティのライセンシーが、ライセンス対象の 生成AI システムを変更し、そのシステムがコンテンツに開示情報を記載できなくなった場合、その事実を発見してから 96 時間以内に、ライセンシーのライセンスを取り消すこと
【In Depth】
定義
  • 「人工知能 (Artificial intelligence, AI) 」：
    • 自律性のレベルに差があり、物理的または仮想的な環境に影響を与えることができる出力を生成する方法を、受け取った入力から推測することができる工学的または機械ベースのシステム
  • 「対象事業者 (Covered provider) 」：
    • 月間訪問者数またはユーザー数が100万人を超える生成人工知能システムを作成、コード化、製作する者
      • 州の地理的境界内で公的にアクセス可能であること
  • 「生成 AI システム (Generative artificial intelligence system) 」：
    • テキスト、画像、動画、音声を含む合成コンテンツを生成し、そのシステムの学習データの構造や特性を模倣するAI
  • 「個人来歴データ (Personal provenance data) 」：
      • 個人情報、特定のユーザーと関連付けることができる固有のデバイス、システム、サービス情報を含むデータ
  • 「来歴データ (Provenance data) 」：
    •  デジタルコンテンツに埋め込まれているか、デジタルコンテンツのメタデータに含まれているデータ
      • デジタルコンテンツの真正性、出所、または改変履歴を検証する目的で利用される
  • 「システム来歴データ (System provenance data) 」：
    • 特定のユーザーと関連付けることが合理的に不可能であり、以下のいずれかを含む来歴データ：
      • デジタルコンテンツを生成するために使用されたデバイス、システム、サービスの種類に関する情報
      • コンテンツの真正性に関連する情報
AI検出ツールの必須機能 対象事業者は、ユーザーが無料でAI検出ツールを利用できるようにしなければならない。
  • ユーザが画像、映像、音声コンテンツ、それらの組み合わせであるコンテンツが、対象事業者の生成AIシステムによって作成、改変されたかをユーザーが評価できるようにすること
  • ユーザーがコンテンツをアップロードするか、オンラインコンテンツにリンクする URL を提供できるようにすること
  • コンテンツから検出したシステム来歴データを表示すること
  • コンテンツから検出した個人来歴データを表示しないこと
  • ユーザーが対象事業者のインターネットウェブサイトにアクセスすることなく、ツールを呼び出すことができるAPIをサポートすること
  • 一般にアクセス可能であること：
    • 対象事業者は、生成AIシステムのセキュリティまたは完全性に対するリスクを防止または対応するために、ツールへのアクセスに合理的な制限を課すことができる
AI検出ツールの有効性に関するユーザーのフィードバックを収集し、ツール改善に反映することが推奨される。 禁止事項 対象事業者は、以下の行為を行ってはならない：
  • AI 検出ツールから収集したユーザーの個人情報を、連絡を希望する旨の同意をユーザーから得た場合を除き、取得または保管しないこと
    • ユーザーのフィードバックは、AI検出ツールを改善する目的でのみ使用しなければならない
  • AI検出ツールに送信されたコンテンツを必要以上に長期間保持すること
  • ユーザーが AI 検出ツールに送信したコンテンツの個人来歴データを保管すること
開示ラベルに対する要件 一般 対象事業者はユーザーに対し、生成AIシステムが作成、改変した画像、映像、音声コンテンツ、またはそれらを組み合わせたコンテンツに、開示情報を表示するオプションを提供しなければならない。
  • 開示情報は以下の要件を満たす必要がある：
    • AIが生成したコンテンツであることを明示する
    • 明確で、良く目立ち、コンテンツの媒体に適したものであり、個人が理解できる合理的なものであること
    • 恒久的なもの、或いは極めて削除が困難なものであること
スカシの要件と特徴 対象事業者は、生成AIシステムによって作成されたコンテンツに、以下の要件を満たすスカシを含めなければならない：
  • 以下の情報を含むこと：
    • 対象事業者の名称、生成AI システムの名称およびバージョン番号、コンテンツの作成/変更日時、および固有識別子を含むこと
  • AI 検出ツールが検出可能であること
  • 広く受け入れられている業界標準と一致していること
  • 恒久的なもの、或いは極めて削除が困難なものであること
生成AIシステムのライセンス供与
  • 生成AIシステムをサードパーティーにライセンスする場合、ライセンシーが、システムが作成または改変するコンテンツに必要な開示を含めるシステムの機能を維持しなければならないことを契約で要求しなければならない
  • サードパーティーのライセンシーが、ライセンスされた生成AIシステムを改変し、システムがコンテンツに開示情報(スカシ)を入れることができなくなった場合、ライセンシーからライセンスを取り消すこと
    • 発見後96時間以内にライセンシーからライセンスを取り消すこと
  • サードパーティーのライセンシーは、システムのライセンスが取り消された後、ライセンスされた生成AIシステムの使用を中止しなければならない
執行措置 本法に違反した対象事業者は、違反ごとに5,000ドルの民事罰の責任を負い、違反した1日ごとに個別の違反とみなされる。 サードパーティーのライセンシーによる違反の場合、司法長官、郡弁護士、市弁護士は、以下の両方を求める民事訴訟を提起し、差止命令と合理的な弁護士費用の請求ができるものとする。
【情報ソース】