【報告】EU：欧州委員会がAI法50条で規定する透明性義務についてのガイドライン案を公表

欧州委員会 (EC) は、EU AI法第50条に規定される透明性義務について、ガイドライン案を公表した。目的は、EU加盟国間でEU AI法を統一的に適用・執行することにある。

• AI法第50条は、透明性リスクのあるAIシステムを規制し、開示、表示、ラベル付け、情報提供の義務を、AIシステムやAI生成コンテンツの提供者、展開者双方に対して課している
• 透明性義務では以下を要求している：
  • 個人がAIシステムとやり取りする際、または、AI生成コンテンツやAI操作で生じたコンテンツにさらされる際に、十分な情報を得られるようにする
    • それによって、個人が十分な情報に基づいた判断を下せること、自身が出力をどの程度信頼するかについて調節し、欺瞞や操作される被害のリスクを低減する
  • これらの義務は技術中立的であり、AIシステムの基盤となる技術的アーキテクチャ、ビジネスモデル、または導入環境に関わらず適用される
• AI法第50条に基づく義務は、2026年8月2日 (AI法の施行から2年後) から適用される

ガイドライン案に対するステークホルダーからのパブコメは、2026年6月3日まで募集している。

適用範囲

本ガイドライン案は、以下の者が理解を深めることを支援するものである：

• 監督および執行を担当する各国の主管当局および市場監視当局
• AIシステムをEU市場に供給する、またはEU域内で運用を開始する提供者
• EU域内でAIシステムを運用する者
• AIのバリューチェーンに関与するその他の関係者 (以下を含む) ：
  • 販売業者(distributors)
  • 輸入業者(importers)
  • インテグレーター
  • プラットフォーム運営者

主なポイント

• 提供者(providers)は以下を行わなければならない：
  • AI法第50条に基づき、自身が提供者、展開者、あるいはその両方に該当するかを明確に判断すること
    • 複数の主体が重複するコンプライアンス義務を同時に負う可能性がある
  • 事後の開示や契約上の免責事項に依拠するのではなく、透明性に関する要件をAIシステムの設計、アーキテクチャ、機能に直接組み込むこと
  • 欧州委員会(EC)は個人利用、研究、またはオープンソースシステムに対する除外規定を狭義に解釈するため、免除が真に適用されるかを慎重に評価すること
  • 下流の利用者や展開者がAI法に基づく限定的な免除対象となる可能性がある場合でも、AI法第50条の義務を引き続き遵守すること
  • 個人と直接やり取りするAIシステムについては、利用者がAIシステムとやり取りしていることを知らせるため、明確かつ適時、アクセス可能で理解しやすい開示を行うこと
  • 透明性義務を満たす方法として、プライバシーポリシー、利用規約、メタデータ、または「アシスタント」といった曖昧なラベルのみに依存することを避けること
  • 埋め込みメタデータ、デジタルウォーターマーク、プロべナンス管理システム(来歴管理システム、provenance systems)、フィンガープリント技術、または永続的識別子(persistent identifier)などの堅牢な技術的保護措置を実装すること
    • これらは、削除や改ざんに耐性があるものであること
• 展開者は、以下に関連する開示義務を確実に遵守するため、内部ガバナンスプロセスを確立しなければならない：
  • ディープフェイク
  • 公益に関わるAI生成テキスト(AI-generated public-interest text)
  • 感情認識システム(emotion recognition systems)
  • 生体認証分類システム(biometric categorisation systems)
• 組織は以下を遵守しなければならない：
  • 契約上の取り決めやアウトソーシングの構造によって、AI法に基づく法的義務が移転または免除されると想定してはならない
    • 規制上の責任は依然として直接適用されるためである
  • 収益化、業務利用、公衆への発信、フリーランス業務、または組織的な組織的な影響活動を伴う活動は、一般的に個人利用の免除の適用外であると認識すること
  • AIと対話していることを開示する際は、対話の開始前または開始時、かつユーザーが人間と対話していると合理的に想定し得るようになる前に行わなければならない
  • 「明らかなAIとの対話」(obvious AI interaction)という例外が真に適用されるかは慎重に評価しなければならない
    • 極めて現実的な対話エージェント、AIアバター、人間のようなシステムは、この免除の対象とならない可能性が高いからである
• 研究機関および開発者は、AIシステムを研究環境から商用展開や実運用へと移行する前に、コンプライアンス上の義務を再評価しなければならない
• オープンソースAIの開発者は、システムが以下のいずれかに該当する場合、オープンソースライセンスによって自動的に透明性確保の義務が免除されると想定してはならない
  • 合成コンテンツ(synthetic content)を生成する場合
  • ユーザーとやりとりする場合(interact with users)
  • ディープフェイクを生成する場合
• 感情認識システム(emotion recognition systems)、生体認証分類システム(biometric categorisation systems)、またはディープフェイク技術(deep fake technologies)を実装する組織は、システムが禁止対象または高リスクAIシステムに該当する可能性があるか評価しなければならない
• 高リスクAIシステムの提供者は、以下の追加的なガバナンス措置を実施しなければならない：
  • リスク管理(risk management)
  • 人的監督(human oversight)
  • 技術文書(technical documentation)
  • ログ記録、サイバーセキュリティ(logging, cybersecurity)
  • データガバナンス管理(data governance controls)
• GPAIおよび基盤モデルベースのシステム(foundation-model-based systems)提供者は、技術的に可能な限り、利用段階のコンプライアンスを支援するために、ウォーターマーク(watermarking)、プロべナンス(来歴、provenance)、検出機能(detectability capabilities)をモデル自体に実装しなければならない
• 提供者および展開者は、脆弱な立場にある個人であってもアクセスしやすい適切な開示方法を設計しなければならない：
  • 子ども
  • 高齢者
  • 障害者
  • デジタルリテラシーが限られている個人
• 合成コンテンツ(synthetic content)を生成または実質的に操作する提供者は、機械可読マーキングメカニズム(machine-readable marking mechanisms)と効果的な検出機能の両方を実装しなければならない
  • いずれか一方の義務のみを遵守するだけでは不十分である
• ディープフェイクコンテンツを公開する展開者は、開示情報が明確かつ目立ち、適切であり、かつコンテンツの表示に直接組み込まれていることを確保しなければならない
  • 一般的なウェブサイトの通知やポリシーの中に隠す形で記載してはならない
• AIによって生成された公益的なコンテンツ(AI-generated public-interest content)を利用するメディア組織、出版社、利用者は、編集管理の免除を適用する場合、有意義な人間によるレビュー、実質的な編集上の監督、文書化された責任管理のプロセスを維持しなければならない：

禁止行為と高リスクAIシステムの要件との相互関係

• AI法第50条を遵守したからといって、AI法というより広範な枠組みの下で、そのAIシステムが自動的に合法となるわけではない
• 透明性義務の対象となる特定のAIシステムは、高リスクAIシステムに該当する、あるいはAI法第5条で禁止されているAIの利用に該当する可能性がある：
• 例：
  • 職場や教育機関で感情認識システムを利用することは、AI法第5条に基づき禁止される可能性があると共に、AI法第50条の適用対象となる可能性がある
  • ディープフェイクシステムは、透明性義務の対象となると共に、消費者保護法、選挙法、または刑法上に抵触する可能性がある
• 高リスクAIシステムには、以下の追加義務が引き続き適用される：
  • リスク管理システム
  • データガバナンス要件
  • 人的監督
  • 技術文書
  • 精度およびサイバーセキュリティ要件
  • ログ記録および記録保持義務

汎用AI (GPAI) モデルやAIシステムに適用される規則との相互関係

• GPAIシステムや 基盤モデル(foundation model)を用いたシステムは、以下の場合にAI法第50条の適用対象となることが多い：
  • 個人と直接やり取りする場合
  • 合成コンテンツを生成する場合
  • ディープフェイクを作成する場合
  • 下流で、AI生成コミュニケーション(AI-generated communications)を可能にする場合
• AI法第50条は、単体のモデルではなくAIシステム自体を直接規制しているが、モデルと下流での展開の仕組みの両方を管理している提供者は、モデルの段階で透明性確保のための措置を講じる場合がある
• GPAIモデルの提供者は、以下を行わなければならない：
  • ウォーターマークまたはプロべナンス追跡機能(来歴機能、provenance capabilities)を組み込むこと
  • 下流での検知可能性(detectability)を支援すること
  • 検知システム(detection system)との相互運用性(interoperability)を促進すること
  • 展開者がコンプライアンスを遵守できるよう、技術文書(technical documentation)を提供すること
• システミックリスク(systemic risk)をもたらすGPAIモデルについては、別途定められたGPAI義務に基づき、より強力な安全保護措置を実施することが求められる場合がある

AI法第50条 (1) 項に基づく情報提供義務

• 提供者は、ユーザーがAIとやり取りしていることを明確に認識できるよう、以下の措置を講じなければならない：
  • 当該情報は、以下の要件を満たさなければならない：
    • 適時に提供されること(provided in a timely manner)
    • 明確かつ理解しやすいものであること(clear and understandable)
    • 容易にアクセス可能であること(easily accessible)
    • 対象となる利用者の特性に適合していること(adapted to the characteristics of the target audience)
• 開示は、原則として以下の時期に行われなければならない：
  • やりとりの前、またはその開始時(before or at the beginning of the interaction)
  • 遅くとも最初のやりとりの際(at the latest during the first interaction)
  • 利用者が人間とやりとりしていると合理的に推測しうるようになる前(before users may reasonably assume they are interacting with a human)
• 開示の仕組みは、以下の要件を満たさなければならない：
  • 曖昧さや、隠された、あるいはアクセスできない通知を避けること(avoid ambiguity, and hidden or inaccessible notices)
  • システムの非人間的な性質を明確に示すこと(clearly identify the non-human nature of the system)
  • 以下を含めること：
    • 目に見えるテキストラベル(visible text labels)
    • 導入メッセージ(introductory messages)
    • 音声による通知(spoken notices)
    • 常時表示されるアイコンやインジケータ(persistent icons or indicators)
    • 音声プロンプト(audio prompts)
    • テキスト、音声、視覚情報を組み合わせたマルチモーダルな通知(multimodal notices combining text, voice, and visuals)
  • 以下にのみ依存してはならない：
    • 利用規約(terms and conditions)
    • プライバシーポリシー
    • ユーザーには見えない機械可読メタデータ(machine-readable metadata invisible to users)
    • AIであることの開示がない「アシスタント」などの曖昧な記述(vague descriptors such as “assistant” without AI disclosure)
• 提供者は、子ども、高齢者、障害者、デジタルリテラシーが限られている個人等、アクセシビリティおよび脆弱性に関する要因を考慮しなければならない
• 子ども向けのシステムにおいては、特に明確で、年齢に適した、理解しやすい情報開示(clear, age-appropriate, and understandable disclosures)が必要である

他のEU法との相互関係

• AI法第50条の義務は、既存のEUの法的枠組みと並行して適用されるものであり、それらに代わるものではない。関連する法的枠組みには、以下が含まれる：
  • GDPR
  • eプライバシー指令
  • デジタルサービス法 (Digital Services Act, DSA)
  • 不公正な商業慣行に関する指令(Unfair Commercial Practices Directive)
• 消費者保護法は、商業的取引におけるAIの関与について、独自に開示を義務付ける場合がある
• DSAは、以下の事項に関して追加の義務を課す可能性がある：
  • レコメンデーションシステム(recommender systems)
  • モデレーションシステム(moderation systems)
  • オンラインプラットフォームの透明性(online platform transparency)
• AIによるやり取りの過程で個人データが処理される場合、データ保護義務は引き続き適用される

AIが生成・操作したコンテンツの表示と検出

合成コンテンツを生成・操作するAIシステム

• AI法第50条 (2) 項は、以下のいずれかに該当するAIシステムに適用される：
  • 全く新しい合成コンテンツを生成するもの
  • 既存コンテンツを、その意味内容(alter semantic meaning)や知覚される本物らしさ(perceived authenticity)を変えるような方法で実質的に操作(manipulate)・変換する(transform)もの
• 対象となるシステムには、以下が含まれる可能性がある：
  • テキスト生成システム
  • 画像生成システム
  • 動画生成システムまたは音声クローン生成システム(voice cloning systems)
  • 音楽生成システム
  • AI吹き替えシステム(AI dubbing systems)
  • マルチモーダル生成システム
  • AIを活用した編集・変換システム(AI-powered editing and transformation systems)
  • 自律的に合成コンテンツを生成するエージェント型AIシステム
• コンテンツ生成：
  • まったく新しい画像、動画、音声、記事、その他のメディアの作成
  • 人物、環境、または出来事のリアルなシミュレーションの生成
  • 人間が作成したコミュニケーションに似せた合成テキストの生成
• コンテンツの操作：
  • 表情や発話内容の変更
  • 音声のクローン作成
  • リップシンク (口の動きの同期(lip synchronisation))
  • 背景や物体の差し替え
  • 意味を著しく変えるAI翻訳や要約
  • 誤解を招く印象を与えるよう既存のコンテンツを操作すること
• 人間とAIによる共同制作の成果物(Mixed human-AI collaborative outputs)であっても、AIが結果として生じる成果物に実質的に寄与している(materially contributes)場合には、依然として合成コンテンツに該当する可能性がある
• 透明性義務は、複数のコンテンツ形態に適用され、技術的に中立で、将来の変化にも対応できる(future-proof)よう設計されている
  • 対象となる形態(modalities)には以下が含まれる：
    • テキスト
    • 画像
    • 音声
    • 動画
    • 複合的な様々な形態の出力(combined multimodal outputs)
  • 適用範囲は以下にまで拡大される可能性がある：
    • 仮想現実 (VR) 環境
    • 拡張現実 (AR) コンテンツ
    • デジタルツイン(digital twins)
    • 合成アバター(synthetic avatars)
    • 3Dレンダリングコンテンツ(3D rendered content)
    • 没入型合成シミュレーション(immersive synthetic simulations)
• 形式そのものが適用の有無を決定するのではなく、AIが生成・操作したコンテンツが、現実的に人間の知覚や理解に影響を与える(realistically influence human perception or understanding)可能性があるかが適用の有無を決定する
• 特定の出力は、欺瞞や合成によるなりすましのリスクを実質的に生じさせないため、AI法第50条 (2) 項の適用範囲外とされる
  • 除外されるコンテンツには、以下が含まれる可能性がある：
    • 純粋に技術的なマシン間出力(purely technical machine-to-machine outputs)
    • 人間による解釈を目的としていないデータ処理の出力(data processing outputs not intended for human interpretation)
    • 機能的なコード生成の出力(functional code generation outputs)
    • 基本的な産業最適化の出力(basic industrial optimisation outputs)
    • 有意義な合成生成や操作を伴わずに既存の素材を複製するコンテンツ(content reproducing existing material without meaningful synthetic generation or manipulation)
  • 実質的なAIによる変換(substantial AI transformation)を伴わない、単に既存のコンテンツを取得または表示するだけでは、義務は発生しない
  • 単純な書式調整や構成の変更(simple formatting adjustments or organisational changes)のみでは、一般的に不十分である
  • 専ら内部の産業業務を目的とした技術システムの出力は、適用範囲外となる可能性がある
• ただし、出力が依然として人間の理解や信頼に実質的な影響を及ぼし得る場合、除外規定は狭義に解釈されなければならない

第50条 (2) 項における表示・検出の義務

• 提供者は、以下の事項を確保しなければならない：
  • 合成出力(synthetic outputs)には、AIの関与を示す機械可読なインジケータ(machine-readable indicators)が含まれていること
  • 適切な技術的手段を用いて、出力がAIによって生成されたもの、またはAIによって操作されたものとして検出可能であること
• 上記2つの義務のいずれか一方のみの遵守では不十分である
• これらの義務は、比例性と現在の技術水準に照らして(proportionately and according to the current state of the art)、技術的に実現可能な範囲で実施されなければならない
•  提供者は、AIが生成・操作した出力が、機械可読形式で識別(marked in a machine-readable format)できるようにしなければならない
  • 表示義務は、以下を支援することを目的としている：
    • トレーサビリティ(traceability)
    • プロべナンス検証(provenance verification)
    • 下流での検出(downstream detection)
    • コンテンツ流通過程全体における透明性情報の維持(preservation of transparency information across content distribution chains)
  • 機械可読な表示には、以下が含まれる可能性がある：
    • 埋め込みメタデータ(embedded metadata)
    • デジタルウォーターマーク(digital watermarks)
    • 暗号化されたプロべナンス(来歴)追跡システム(cryptographic provenance systems)
    • フィンガープリント技術(fingerprinting technologies)
    • 永続的識別子(persistent identifiers)
    • コンテンツ真正性技術(content authenticity technologies)
    • 安全なログ記録の仕組み(secure logging mechanisms)
  • 表示(marking)は、以下の要件を満たさなければならない：
    • 技術的に適切な方法(technically appropriate manner)で埋め込まれていること
    • 削除や劣化に対して合理的な耐性があること(reasonably resistant to removal or degradation)
    • 実行可能な範囲で、システムやプラットフォーム間で相互運用可能であること(capable of interoperating across systems and platforms where feasible)
  • ユーザーに表示されるラベル(visible user-facing labels)は、この義務を補完するものではあるが、機械可読なマーキングの要件に取って代わるものではない
  • 提供者は、以下の方法でマーキングを実装することができる：
    • モデルレベル(at model level)
    • アプリケーションレベル(at application level)
    • 出力生成段階(at output generation stage)
    • 統合されたサードパーティの技術ソリューションによる実装(through integrated third-party technical solutions)
• 提供者はさらに、合成出力がAIが生成・操作したものであることを識別できるようにしなければならない
  • 検出メカニズムは、コンテンツがAIシステムに由来するかどうかを識別できるものでなければならない
  • 検出システムには、以下が含まれる場合がある：
    • 自動検出ツール(automated detection tools)
    • 検証インターフェース(verification interfaces)
    • メタデータリーダー(metadata readers)
    • プロべナンス認証システム(provenance authentication systems)
    • 一般に公開されている検出サービス(publicly accessible detection services)
  • 検出結果は、一般的に人間が読み取れる形式で出力されなければならない
  • 検出システムは、合理的な範囲でアクセス可能かつ利用可能でなければならない
  • 提供者は、相互運用性が確保されている場合、サードパーティの検出技術を利用することができる
  • 完璧な検出システムは存在せず、検出機能は、敵対的技術や技術の発展に伴い、時間の経過とともに進化する可能性がある

AI法第50条 (2) 項に基づく義務の例外

• AI法第50条 (2) 項には、特定の低リスクな修正および法的に認められた法執行目的での利用に関する限定的な例外が規定されている：
  • 標準的な編集機能は、意味や真正性を実質的に変更(materially alter semantic meaning or authenticity)しない限り、一般的に適用範囲外となる
  • 適用除外となる標準的な編集機能の例としては、以下が挙げられる：
    • 基本的なスペルチェック(basic spellchecking)
    • 軽微な色補正(minor colour correction)
    • 明るさの調整(brightness adjustments)
    • 軽微なトリミング(minor cropping)
    • ノイズ除去(noise reduction)
    • 意味的な変更を伴わない解像度の向上(resolution enhancement without semantic modification)
  • ただし、意味やリアリティを実質的に変更する可能性のあるAIを活用した編集は、依然として適用範囲に含まれる
    • 誤解を招く印象や合成されたリアリティを生み出す操作は、一般的に義務の対象となる
  • 表示・検出が必要となる可能性のある例には、以下が含まれる：
    • 顔の置換(face replacement)
    • 声のクローン作成(voice cloning)
    • 意味を実質的に変更するAI生成翻訳(AI-generated translations materially changing meaning)
    • 文脈を大幅に操作するAI要約(AI summarisation substantially altering context)
    • 合成シーンの作成(synthetic scene creation)
    • ディープフェイクの生成(deep fake generation)
• 法執行機関に関する例外は、以下の条件がすべて満たされる場合にのみ適用される：
  • AIの利用がEU法または加盟国の法律によって明確に認められていること
  • 適切な保護措置が講じられていること
  • 必要性と比例性の要件(necessity and proportionality requirements)が満たされていること
• 透明性確保のための保護措置の有効性を維持するため、例外規定は狭義に解釈されなければならない

他のEU法との相互関係

• AI法第50条 (2) 項に基づく義務は、他のEUの法的枠組みと併存するものであり、他の法令に基づく義務に取って代わるものではない
• 表示・検知システム(marking and detection systems)を運用する提供者は、個人データが処理される場合、データ保護の原則を遵守しなければならない
• DSAは、以下の事項に関してプラットフォームに追加の責任を課すことがある：
  • リスク低減(risk mitigation)
  • 改ざんされたメディアの検知(manipulated media detection)
  • 偽情報の管理(disinformation management)
  • 透明性報告(transparency reporting)
• AIによって生成されたラベル自体は、コンテンツが合法か違法かを決定するものではない
• 表示義務は、提供者または展開者に対し、他の法的枠組みに基づく責任を免除するものではない
• 著作権法、名誉毀損法、詐欺法、選挙法、刑法は、これとは独立して適用される可能性がある

感情認識システムの概念

• 感情認識システムとは、生体認証データや行動データに基づいて、感情、意図、心理状態、または行動特性を識別、推論、または分析するように設計されたAIシステムである
  • このようなシステムは、以下を分析する場合がある：
    • 表情(facial expressions)
    • 声のパターン(voice patterns)
    • 身体の動き(body movements)
    • 生理的信号(physiological signals)
    • 行動の手がかり(behavioural cues)
    • 眼球運動(eye movements)
• 感情認識システムは、しばしば科学的に議論の的となっており、不正確、偏った、あるいは差別的な結果をもたらす可能性がある(may produce inaccurate, biased, or discriminatory outcomes)
• 多くの感情認識システムは、AI法の下で高リスクAIシステムに分類されている
• 特定の感情認識の利用は、特に職場や教育機関において、AI法第5条に基づき追加的に禁止される場合がある

生体認証による分類システムの概念

• 生体認証による分類システム(biometric categorisation systems)とは、生体認証データに基づいて個人を特定のカテゴリーに分類するAIシステムである：
  • カテゴリーには、以下のものが含まれる：
    • 年齢(age)
    • 性別(gender)
    • 民族(ethnicity)
    • 行動特性(behavioural traits)
    • 感情的特徴(emotional characteristics)
    • 身体的特徴(physical characteristics)
    • その他、推論された個人の属性(other inferred personal attributes)
• AI法第50条 (3) 項は、その分類が他の規定の下で合法であるかどうかに関わらず適用される
• 透明性義務は、差別的または禁止された利用を正当化するものではない

AI法第50条 (3) 項に基づく情報提供義務

• 展開者は、感情認識システムまたは生体認証分類システムの対象となる自然人に対し、当該システムが稼働している旨を通知しなければならない
  • この義務は、以下を含むすべての対象者に適用される：
    • 顧客(customers)
    • 従業員(employees)
    • 学生(students)
    • 来訪者(visitors)
    • 通行人(passers-by)
    • 子ども(children)
• 提供する情報は、以下の要件を満たさなければならない：
  • 明確かつ利用しやすいこと(be clear and accessible)
  • 対象となる人々が理解できること(be understandable to the relevant audience)
  • 適切かつ適時に提供されること(be provided in an appropriate and timely manner)
  • アクセシビリティ要件を遵守すること(respect accessibility requirements)
• 開示方法には、以下が含まれる場合がある：
  • 掲示物(signage)
  • 音声アナウンス(audio announcements)
  • デジタル通知(digital notices)
  • アイコンや記号(icons or symbols)
  • 段階的な通知(layered notices)
  • 複数の手段を組み合わせたコミュニケーション方法(combined multimodal communication methods)
• 展開者はシステムの技術的な動作のすべてを開示する必要はないが、生体認証や感情分析が行われていることを個人が明確に理解できるようにしなければならない
• 展開者は以下の点についても考慮しなければならない：
  • 社会的弱者(vulnerable individuals)
  • 障がい者へのアクセシビリティ(accessibility for persons with disabilities)
  • 言語的アクセシビリティ(language accessibility)
  • 状況に応じたコミュニケーションニーズ(context-specific communication needs)

ディープフェイクや特定のテキスト公表の表示

AI法第50条 (4) 項に基づくディープフェイクに関する主な構成要素、概念、関連する透明性義務

• AI法第50条 (4) 項は、ディープフェイクコンテンツを生成・操作するAIシステムの展開者に対して開示義務を定めている
• ディープフェイク技術は、以下の点に関して重大なリスクをもたらす：
  • 誤情報および偽情報(misinformation and disinformation)
  • 詐欺およびなりすまし(fraud and impersonation)
  • 選挙操作(electoral manipulation)
  • 身元の悪用(identity misuse)
  • レピュテーション毀損(reputational harm)
  • 嫌がらせおよび虐待(harassment and abuse)
  • 世論操作(manipulation of public opinion)
  • デジタル情報エコシステムに対する信頼の喪失(erosion of trust in digital information ecosystems)
• 透明性義務は、提供者ではなく展開者に特に適用される
  • 展開者は合成コンテンツが公開、拡散、または公衆に伝達されるコンテクストを管理しているためである
• この義務は、以下に関わらず、適用される：
  • ディープフェイクコンテンツが商業目的で配信されているか
  • コンテンツがオンラインまたはオフラインで拡散されているか
  • AIシステムが独自開発かオープンソースかどうか
  • 利用が専門的または組織的なものであるか
• ただし、透明性義務はディープフェイクそのものを禁止するものではない
  • 透明性の目的は、欺瞞のリスクを低減し、情報に基づいた公衆の理解を維持することにある(transparency is intended to reduce deception risks and preserve informed public understanding)

「ディープフェイク」という概念

• ディープフェイクコンテンツには、以下のようなものがある：
  • 完全に合成されたコンテンツ(entirely synthetic generation)
  • 既存のコンテンツの操作(manipulation of existing content)
  • 人間とAIが共同で編集したハイブリッドな出力(hybrid human-AI edited outputs)
  • 本物の素材にAIを用いてリアリティを高めたもの(AI-enhanced realism applied to authentic material)
• ディープフェイクコンテンツの例：
  • 著名人の声の複製(voice cloning of public figures)
  • 実際には起こらなかった発言や行動を人物が行っているように描いた合成動画(synthetic videos depicting individuals saying or doing things that never occurred)
  • AIによる顔の置き換え(AI-generated facial replacement)
  • 演説やインタビューの操作(manipulated speeches or interviews)
  • 合成されたインフルエンサーのコンテンツ(synthetic influencer content)
  • AIによる有名人のなりすまし(AI-generated celebrity impersonations)
• コンテンツが技術的に完璧かではなく、真正性に関して人を現実的に誤認させるかで判断する
• 明らかなパロディや、明らかに非現実的な合成コンテンツであっても、ディープフェイクコンテンツに該当する可能性がある
  • 視聴者が芸術的または架空の要素を認識している場合でも、透明性義務が適用される可能性がある

AI法第50条 (4) 項 (1) に基づく開示義務

• ディープフェイクコンテンツを生成・操作するAIシステムの提供者は、当該コンテンツが人工的に生成・操作されたものであることを開示しなければならない
• 開示は、以下の要件を満たさなければならない：
  • 明確かつ識別可能であること(be clear and distinguishable)
  • 適切かつ状況に応じた方法で提示されること(be presented in an appropriate and proportionate manner)
  • 実行可能な限り、当該コンテンツと共に表示またはアクセス可能であること(remain visible or accessible alongside the content where feasible)
  • 当該コンテンツが人工的に生成されたものであることを個人に効果的に知らせること(effectively inform individuals of the artificial nature of the content)
• 開示においては、以下の点を避ける必要がある：
  • 曖昧さ(ambiguity)
  • 目立たない配置(hidden placement)
  • 通知を見つけたり理解したりするのに過度の労力を要すること(requiring excessive effort to locate or understand the notice)
• 許容される開示方法には、以下が含まれる：
  • 視認可能なラベル(visible labels)
  • ウォーターマーク(watermarks)
  • オーバーレイ通知(overlay notices)
  • 冒頭での注意表示(introductory disclaimers)
  • 音声による表示(audio disclosures)
  • メタデータと視覚的な表示を組み合わせたもの(metadata combined with visible notices)
  • プラットフォームによるAI生成コンテンツ表示(platform-based AI-generated content labels)
• 開示は、一般的に以下の要件を満たさなければならない：
  • コンテンツの閲覧またはアクセス時に(at the point of viewing or access)併せて表示されること
  • 一般ユーザーにとって理解可能なものであること
  • 拡散状況および関連するリスクに応じたものであること
• 展開者は、以下の点を考慮しなければならない：
  • 対象となる視聴者
  • ディープフェイクの写実性
  • 欺瞞が生じる可能性(the likelihood of deception)
  • 拡散の規模(the scale of dissemination)
  • 脆弱な集団が関与しているか
• 一般的なウェブサイトの利用規約やポリシーにおいて、単にAIの関与を開示するだけでは通常不十分である
• 透明性に関する告知は、コンテンツ自体の実際の表示に組み込まれなければならない

芸術的、創造的、風刺的、架空の、またはこれらに類するディープフェイクコンテンツの透明性

• 芸術的、風刺的、架空の、またはこれらに類するコンテンツについては、より柔軟な開示方法が適している場合がある
  • 厳格な目に見える表示が、作品の芸術性または表現の性質に不釣り合いをもたらす可能性がある場合でも、以下が求められる：
    • 透明性の義務が完全に免除されるものではない
    • 当該コンテンツが合成または操作されたものであることは、依然として適切な方法で個人に通知されなければならない
• 芸術的または架空の状況における開示方法には、以下が含まれる可能性がある：
  • 冒頭のクレジット表示(introductory credits)
  • 内容説明のキャプション(descriptive captions)
  • 状況に応じた注意表示(contextual notices)
  • エンドロールでの表示(end-credit disclosures)
  • プラットフォーム側でのラベル表示の仕組み(platform-level labelling mechanisms)
• どの程度の開示が必要かは、以下の要素に応じて異なる場合がある：
  • 拡散される状況(the context of dissemination)
  • 対象となる受け手の期待(audience expectations)
  • リアリティの程度(degree of realism)
  • 誤認のリスク(risk of deception)
  • 公益への影響(public-interest implications)

法執行機関に対する例外

• AIが生成・操作したコンテンツが、法執行目的のためにEU法または加盟国の法律によって特に認められている場合、ディープフェイクに関する透明性義務は適用されないことがある
  • そのような利用は、以下の要件を満たさなければならない：
    • 法的に認められていること
    • 必要かつ均衡が取れていること
    • 適切な保護措置が講じられていること
    • 基本的人権を尊重していること
• この例外は狭義に解釈されなければならず、無制限または不均衡な合成メディアの利用を正当化するものではない
• 法執行機関の例外が適用される場合であっても、公衆に拡散される状況においては、依然として慎重な評価が必要となる場合がある

他のEU法との相互関係

• DSAでは、以下のように規定されている：
  • 巨大なオンラインプラットフォームや検索エンジンは、操作されたまたは欺瞞的なメディアに関するシステミックリスクへの対応が求められることがある
  • プラットフォームは、AI法への準拠を支援するラベリングツール、プロべナンス追跡システム、コンテンツの真正性確保措置を導入できる
• プラットフォームが提供するラベルは、展開者がAI法第50条の義務を履行する上で役立つ可能性がある
  • しかし、必要な場合には、コンプライアンス確保の責任は依然として展開者にある
• 個人データを含むディープフェイクコンテンツは、さらに以下のGDPRの原則に準拠しなければならない：
  • 適法性
  • 透明性
  • 公正性
  • 目的限定
  • データ最小化

公益上の事項について公衆に情報を提供することを目的として公表されたテキスト

• AI法第50条 (4) 項は、公共の利益に関する事項について一般に情報提供する目的で公表される、AIが生成・操作したテキストに対する透明性義務をさらに定めている
  • この規定は、公共の議論に対する信頼を維持し、以下に関するリスク低減を目的としている：
    • AIが生成した誤情報(AI-generated misinformation)
    • 自動化されたプロパガンダ(automated propaganda)
    • 操作された公的コミュニケーション(manipulated public communications)
    • 意見や報道の発信者に関する誤認(false attribution of opinions or reporting)
    • ジャーナリズムおよび公的情報に対する信頼の低下(erosion of trust in journalism and public information)
  • 公益上の事項には、以下が含まれる可能性がある：
    • 政治(politics)
    • 選挙(elections)
    • 公衆衛生(public health)
    • 安全保障(security)
    • 気候問題(climate issues)
    • 社会政策(social policy)
    • 経済問題(economic matters)
    • 主要な公共イベント(major public events)
• この義務は、以下の場合に適用される：
  • AIが生成・操作したテキストが公に発信される場合
  • その目的が一般市民への情報提供である場合
  • その内容が、社会的または民主的な利益に関わる事項である場合
• すべてのAI生成テキストが対象となるわけではない：
  • 私的な通信、娯楽コンテンツ、または純粋に内部向けの文書については、公益に関わる情報発信が含まれていない限り、この義務の対象とはならない

AI法第50条 (4) 項 2に基づく開示義務

• AIが 生成・操作した公益的なテキストを公開する提供者は、当該コンテンツがAIを用いて生成・操作したものであることを開示しなければならない：
  • 開示は、以下の要件を満たさなければならない：
    • 明確かつ理解しやすいものであること
    • 読者がアクセスできるものであること
    • 配信の文脈に見合ったものであること
    • 読者がコンテンツ作成におけるAIの役割を理解できるようにすること
  • 開示方法としては、以下が挙げられる：
    • 冒頭の告知
    • 執筆者名の開示
    • 脚注
    • 編集者による声明
    • プラットフォーム上のラベル
    • 技術的かつ視認可能な告知の組み合わせ
  • 開示の程度は、以下の要因によって異なる場合がある：
    • AIの関与の度合い
    • 人間の監督の役割
    • 公益上の問題の重要性
    • 読者を誤解させるリスク
  • 文法修正などの軽微なAI支援については、必ずしも開示義務が生じるわけではない
    • しかし、AIによる大幅な起草、要約、コンテンツ作成については、開示が必要な場合がある

人間の審査または編集管理・編集責任の下にあるテキストに対する透明性義務の例外

• AI法は、AIが生成・操作した公益的なテキストが、実質的な人間の審査(human review)を受け、かつ編集管理および編集責任の対象であり続ける場合、例外を定めている：
  • この例外は、以下の目的を意図している：
    • 編集の自由を保全すること
    • ジャーナリズムおよび出版業界への過度な負担を回避すること
    • 専門的な編集プロセスにおける人間の説明責任(accountability)の役割を認めること
  • この例外が適用されるためには：
    • 人間のレビューは真摯かつ有意義なもの(genuine and meaningful)でなければならない
    • 編集管理は、単なる形式的な承認ではなく、実質的な監督(substantive oversight)を伴わなければならない
    • 責任ある個人または法人が、公開されたコンテンツに対して説明責任を負い続けなければならない
• 表面的な審査のみを行うことは不十分である可能性がある
• 完全に自動化された公開プロセスは、この例外の適用要件を満たす可能性が低い
• 編集責任には、最終的に公開されたコンテンツに対する実際の説明責任(accountability)が求められる
• この例外は、他の法律に基づく義務を排除するものではない
• 人間の監督は、コンテンツに関連するリスクに対して効果的かつ比例的なものでなければならない