ディープフェイクを技術的な珍事や一部の人のいたずらと見なす時代は終わりました。WIPOのある議論で、Anderson Rocha教授はディープフェイクとその関連技術を「合成現実（Synthetic Realities）」と再定義しました。本物そっくりの偽物を作るだけの技術ではなく、現実、すなわち社会・法律・政治全体を変える存在だということです。
実際の被害を見ると、この診断が大げさではないと分かります。残念ながらディープフェイクによって最も急速に増えたのは、より精巧な映像ではなく、性的搾取コンテンツなどの有害資料や、声のなりすまし、オンライン面接の偽装といったリアルタイムのソーシャルエンジニアリング犯罪でした。顔や声に依存する認証システムは根本的な脅威にさらされ、合成された報道写真や架空の専門家が虚偽情報を運んで世論を揺さぶり、法廷では「何が本物の証拠か」が問われるようになりました。
問題が明らかになると各国は対策に乗り出しました。興味深いのは、同じ問題に直面しながら、異なる形の規制を導入した点です。本稿ではEU、米国、デンマーク、中国、韓国が同じ問題にどのように異なるアプローチを取ったか、順に見ていきます。
🇪🇺 EU — 既存の規制を再解釈する
新しい法律を作る前に、既存の枠組みで対応できるかを確かめる必要があります。Sebastian Schwemer教授は、特に包括的なコンテンツ規制であるデジタルサービス法（DSA）の「コンテンツモデレーション」、つまりプラットフォームが不適切な内容を選別する仕組みが、合成メディアにも機能するかを検討しました。
DSA第3条(t)は、コンテンツモデレーションを「違法なコンテンツ、またはプラットフォームの利用規約に適合しない情報を検知・特定し、対処するための、仲介サービス提供者による自動または非自動の活動」と定義します。その手段には、露出を下げる順位引下げ（demotion）、収益化停止（demonetisation）、アクセス遮断（disabling of access）、削除（removal）、さらに投稿者アカウントの停止・終了まで幅広く列挙されています。従来の電子商取引指令よりも「何を、どう取り下げられるか」の範囲を大きく広げています。
問題は、この枠組みをそのままディープフェイクに適用するには不十分なことです。第一に、合成それ自体は違法ではありません（Synthetic ≠ Illegal）。DSAが対象とするのは「違法または規約違反」のコンテンツですが、多くの合成コンテンツはどちらにも明確には該当しません。第二に、より根本的には、何を削除すべきかを判断する基準自体が崩れます。「偽物に見える本物」と「本物に見える偽物」が共存する環境では、削除しすぎか、削除が足りないかを判断する物差しさえ失われるからです。
とはいえ、DSAがディープフェイクを放置しているわけではありません。「ディープフェイク」という語は使いませんが、第35条第1項(k)は超大規模オンラインプラットフォーム（VLOP）に対し、実在の人物・物・場所・出来事に非常によく似ており「真正または真実であると誤って見える」生成・操作画像、音声、映像を「目立つ表示（prominent markings）」で区別し、利用者自身がそのような内容を通報できる機能を設けるよう求めています。
同様の趣旨はEU AI法第50条の透明性義務にも含まれています。ただし、この表示義務は、後で扱う韓国と同じ問いに直面します。悪意ある利用者が表示を消して拡散した場合、誰がどこまで責任を負うのでしょうか。
それでも、EUの本当の強みは「内容」より「手続き」にあります。DSAが備える人による審査、異議申立ての経路、措置理由の説明といった手続的な安全策（DSA第14条など）は、何が本物かを断定しにくい時代の重要な装置になります。結局EUに残る課題は、検知精度を高めることではなく、どこで止めるか、すなわち生成段階のプラットフォームか流通段階か、プロンプト・出力・再アップロードをそれぞれどう扱うか、そして何を、どの手続きで、誰の責任の下に調整するかを決めることです。
🇺🇸 米国 — 新しい権利を作る
米国は前提からEUと異なります。Ben Sheffner教授の整理によれば、米国の議論は、「デジタルレプリカに関する権利」を既存のパブリシティ権や著作権の枠に押し込めることはできない、というところから始まります。米国のパブリシティ権法はもともと広告やマーチャンダイジングを対象とし、表現作品に対する免責範囲が広いため、生成AIが実在する俳優や歌手の新しい演技や声を作る状況を規制の外に置く隙間が生じました。
最初に動いたのは政府ではなく業界でした。2023年の俳優・放送関係者組合のストライキ後に結ばれたSAG-AFTRA協約が、一種の暫定ルールになりました。この協約は雇用に基づいて作られたデジタルレプリカと独立して生成されたレプリカを区別しますが、これは技術的な違いというより、取引費用と責任の帰属を整理するための妥協でした。既存の制作慣行を保ちながら、俳優のコントロール権も認めようとした折衷の産物です。
その上で、連邦立法として進められているのがNo Fakes Actです。この法案は、写実的なデジタルレプリカについて、死後70年間存続し、相続・譲渡も可能な新たな連邦財産権を創設し、プラットフォームやAIツール提供者にも生成から流通までの全過程で責任を課します。
ただし、大きく二つの争点があります。一つは報道・伝記・批評・学術・風刺など公益的利用に例外を設けるものの適用条件が曖昧なこと。もう一つは、権利者が通知するとプラットフォームが即時に削除し、類似コンテンツの再投稿まで自動遮断する仕組みが、過剰な遮断を招き得ることです。
娯楽業界やアーティスト団体は、性的ディープフェイクや合成音声詐欺といった現実の被害を挙げ、明確な連邦保護を求めています。一方、表現の自由を擁護する側は、具体的な被害を立証せず権利侵害だけで訴えられる仕組みが、批判・風刺・歴史的再現を萎縮させると懸念します。ドキュメンタリーなどの制作者は、最終的に「許可がなければ表現できない」環境へ変質しないかを心配し、大規模なフィルタリング基盤を負担できない中小プラットフォームやオープンソースの生態系は、さらに別の負担を抱えます。
🇩🇰 デンマーク — 著作権を拡張する
デンマークは最も迅速かつ大胆に動いた国の一つです。Stina Teilmann-Lock教授が紹介した改正法案は、ディープフェイクを既存の著作権制度内で扱うという前提で二つの権利を新設し、2026年3月31日から施行されます。
第一は実演家の保護権です。写実的なデジタル模倣が実演家の芸術的実演を再現する場合、本人の同意を求めるものです。ただし「著作物性を問わない」実演まで対象に含めるため、著作権保護の前提だった「著作物（work）」の定義自体を揺るがすとの評価もあります。
第二は外見の模倣に対する保護権です。自然人の身体的・個人的特徴を写実的に模倣したコンテンツについて、国籍を問わずすべての人を保護します。パロディー、風刺、社会批判は例外ですが、虚偽情報による重大な被害のおそれがあれば、その例外も制限されます。
この立法によりデンマークは、これまで個人情報、マーケティング、刑法に分散していた根拠を、プラットフォームがディープフェイクを削除するための単一で明確な基準にまとめようとしています。ただし、1)「芸術的実演」や「写実的模倣」といった核心概念の定義を技術進歩の中で固定することは難しく、2)警察・司法機関の限られた能力の下で新しい権利が実際に優先課題となるかも分からない点は、今後の課題です。
最後にTeilmann-Lock教授は興味深い可能性を付け加えました。この制度はディープフェイクを抑えるだけでなく、アバターや合成タレントといった新市場を制度の枠内に取り込む効果を生むかもしれないというのです。
次回に続きます。