【報告】ブラジル：ディープフェイク対策について

ディープフェイクとはどのようなものか、何ができるのか

ディープフェイクとは

• ディープフェイクとは、AIを利用して作成、改変された写真、音声クリップ、あるいは動画のことで、実在する人物が実際には言ってないことを言ったり、行っていないことを行ったりしているように見せかけるものである
• 結果として実在する人物の顔、体、声を極めてリアルに再現し、見る人や聞く人がそれが偽物だと容易に見分けられないほど説得力があるという点で、通常の編集とは異なる
• 以下の2つの異なる方法で作成される：
  • 実在の写真や録音資料を一切使用せず、記述されたプロンプトのみから完全に生成される場合
  • 実在する人物の既存の写真、動画、音声記録を用いて、それを改変して作成される場合
• ディープフェイクツールには、以下のような機能がある：
  • 顔の入れ替え
  • 表情の改変
  • 顔の特徴の変更(e.g. 瞳の色を変える)
  • 顔の合成による、まったく新しい架空の顔や人物の生成
  • 声のクローン作成

チープフェイク(Cheapfakes)とシャローフェイク(shallowfakes)

• チープフェイクやシャローフェイクは、比較的低技術な操作を用いてコンテンツを改変し、誤情報を拡散するものだが、ディープフェイクではない。具体的には以下のものである：
  • AIの利用によって顔や声の生成を行わず、クリップの切り取り、映像の速度調整、別の音声の差し込み、あるいは実際の映像を虚偽の文脈で再利用するなど、一般に無料で入手可能なソフトウェアを用いて編集されたコンテンツである

ディープフェイクではないもの

• 画像や録画について、行われた変更が日常的な補助的な編集(e.g., 色補正、トリミング、背景ノイズの除去、標準的な照明や美容フィルターの適用)のみである場合は、ディープフェイクとして分類すべきではない
  • これらの編集はコンテンツの意味、文脈、または本来の意図を変更しないからである
• コンテンツが単なる編集なのかディープフェイクなのかを明確に区別することは重要である
  • 法規制の要件が適用される可能性があるからである(e.g. EU AI法では、特別な透明性確保および表示義務が定められている)

ディープフェイクと個人データ保護

ディープフェイクがデータ保護上のリスクをもたらす理由

• ディープフェイクは、以下の3つの異なる段階で個人データに関するリスクを生み出す：
  • AIのトレーニングに個人データが使用される段階
  • 実際のメディアを生成または改変するために個人データが使用される段階
  • 生成されたコンテンツがオンライン上で共有または配布される段階
• トレーニング段階は極めて重要なリスクポイントである
  • 学習データが、適法根拠なしに、透明性を欠いた状態で、あるいはセンシティブなデータ(生体データや子どものデータなど)に対する追加の安全保護措置なしに取得される可能性があるからである
• 生成段階は、より深刻なリスクをもたらす
  • 実在する人物の写実的で権限のない画像、動画、音声クリップを作成することは、その人物の評判や尊厳、そして自身の肖像に対する支配権を損なうおそれがある

対象となる個人データの特定

• ディープフェイクに関連するリスクを評価する前に、どの個人データが処理されているかを正確に特定する：
  • 分類：
    • 氏名、メールアドレス、その他の身分証明書類など、個人を直接特定できるデータは個人データとして分類する
    • 人種や民族的出自、宗教的信条、政治的見解、健康状態、性生活、あるいは顔や声のパターンを含む遺伝的・生体データを明らかにするデータは、LGPD第11条に基づく特定の適法根拠を必要とするため、センシティブな個人データとして分類する
    • 処理時点で利用可能な合理的な技術的手段を用いて個人を再特定できない場合に限り、データを匿名化データとして分類する
  • 子どものデータについては特に注意を払い、処理において子どもの最善の利益、透明性、年齢に応じた安全保護措置が組み込まれていることを確保し、少なくとも親または法定後見人の1人から同意を得るものとする
  • ソーシャルメディア上の動画など、個人が自ら個人データを公開したからといって、そのコンテンツがデータ保護規則の適用除外であるとみなしてはならない

個人データの取得、処理、共有の方法

• データスクレイピングが頻繁に利用される
  • これは、ソーシャルメディアの動画、写真、ニュース記事、インタビューなど、一般に公開されているコンテンツを自動的に抽出する手法である
• 個人データは、以下に由来する場合もある：
  • AIのトレーニング用に構築された、あらかじめ整理された公開データセット
    • これには画像、音声録音、動画などが含まれる
  • アプリを通じて要求される自撮りや生体認証など、直接的かつ意図的な取得
  • 本人が認識していないまま取得された、漏洩データまたはハッキングされたデータ
• 取得した個人データは、クリーニングやラベル付けが行われ、他のデータと統合された上で、AIモデルのトレーニングや改良に繰り返し利用される
  • そのため、元のデータを元の形式でトラッキングすることは困難となる

ディープフェイクとLGPDの原則との関連性

• データ主体に通知することなく画像、音声記録、またはセンシティブデータを取得することは、透明性の原則(transparency principle)に違反する
  • なぜなら、データがどのように処理されるかについて、本人には明確に伝えられなければならないからである
• 当初とは異なる目的で共有されたデータを再利用することは、目的限定の原則(purpose limitation principle)に違反する
  • 個人データは、当初取得された特定の目的のためにのみ処理されなければならないからである
• データ主体が、自身のデータが取得されたか、どのように、あるいは誰によって取得されたかを知ることができない状態に置くことは、アクセス権の原則(access principle)に違反する
• スクレイピングされた大量のデータを一か所に保存することは、セキュリティリスクを高める
  • 大量の個人データを集約することは、漏洩、権限のない不正アクセス、悪用のリスクを高めるからである
• 詐欺、恐喝、同意のないコンテンツなど、既知のディープフェイクのリスクに対する適切な安全保護措置を講じないことは、予防の原則(prevention principle)に違反する
• ディープフェイクを用いて高齢者、子ども、女性、その他の脆弱なグループを不均衡に標的にすることは、非差別の原則(non-discrimination principle)に違反する
• ガバナンスに関する文書が欠如しているため、ディープフェイクのツールやデータが国境やプラットフォームを越えて移動する際に、誰が責任を負うのかが不明確になることは、アカウンタビリティの原則(accountability principle)を損なう
• 同意は、AI処理の自動的な適法根拠として扱われるべきではない。LGPDに基づく同意は、自由かつ十分な情報に基づく具体的なものでなければならないが、データが自動的にかつ大規模に取得される場合、これを取得することは困難だからである：
  • 正当な利益もまた、センシティブな個人データの処理における有効な適法根拠ではないため、これに依拠すべきではない
• 生体データ、子どものデータ、本人認証、親密なコンテンツ、または広く流通する可能性のあるメディアなど、高リスクな用途については、DPIAを実施すべきである
• 技術の導入に先立ち、ガバナンス文書、リスク評価、データ保管期間の制限、アクセス制御、データ主体が権利を行使するための方法を整備すべきである

ディープフェイクの仕組みに起因する具体的なリスク

• 画像、動画、音声を組み合わせた写実的なマルチモーダル・ディープフェイクは、銀行、政府のデジタルIDサービス、ECプラットフォームなどで使用されている顔認証チェックをすり抜け、その人物が実在するか合成かを見分けることができなくなる
  • この手法は、子どもが年齢制限のあるコンテンツへのアクセスを制限する年齢確認システムをすり抜けるために利用される可能性がある
• 経営幹部の声を複製したものや合成されたビデオ会議映像は、従業員やビジネスパートナーを説得し、不正な銀行移転を承認させるために悪用される可能性がある
• 家族の声を複製した音声は、緊急に金銭を要求することで高齢者を騙すのに利用される可能性がある
• 本人の同意を得ていないポルノコンテンツが拡散され、被害者の評判に危害を加えられるおそれがある
• 子どもを性的な文脈で描いたディープフェイクは、そこに映っている子どもが実在する識別可能な人物であるか、あるいは完全に合成された人物であるかを問わず、子どもの性的搾取資料として扱われるべきである