韓国は2026年1月22日、AI基本法[1]を全面施行する世界初の国となりました。EUは先にAI Actを立法しましたが、高リスクAI規制は2026年8月から段階的に適用します。包括的AI法を実際に全面適用する最初の国は韓国というわけです。
[1] 人工知能の発展および信頼基盤の造成等に関する基本法（略称AI基本法）— 2025年1月公布、2026年1月22日施行。
大きな話題だっただけに、法律全体の紹介や「過剰規制が革新を阻む」といった批判はすでに各所で扱われています。本稿では少し方向を変え、私が重要と考える二つの空白を指摘し、AI規制のパラダイム全体を検討します。
🧩 AI基本法の空白（1）— 主体の識別
第一は主体識別の混乱です。第2条（定義）は「人工知能」をはじめ多くの概念を定義しています。注目したいのは次の部分です。
第2条（定義）この法律で使用する用語の意味は次のとおり。〈2026年1月20日改正〉1.「人工知能」とは、学習、推論、知覚、判断、言語理解など、人間の知的能力を電子的方法で実現したものをいう。…4.「高影響人工知能」とは、人の生命、身体の安全および基本権に重大な影響を及ぼし、または危険を生じさせるおそれのある人工知能システムで、次のいずれかの分野で活用されるものをいう。（イ.「エネルギー法」第2条第1号によるエネルギー供給など）…7.「人工知能事業者」とは、人工知能産業関連事業を行う者で、次のいずれかに該当する法人、団体、個人および国家機関等をいう。イ.人工知能開発事業者：人工知能を開発して提供する者。ロ.人工知能利用事業者：イの事業者が提供する人工知能を使い、人工知能製品・サービスを提供する者。8.「利用者」とは、人工知能製品・サービスの提供を受ける者をいう。
「人工知能」と「高影響人工知能」の違いは何かという指摘はすでに多くありますが、私は「事業者か利用者か」を分ける方が、はるかに重要で難しいと考えます。
法律は事業者と利用者を分け、事業者をさらに開発事業者と利用事業者に分類します。そして特に高影響AIや生成AIの事業者には大きな義務を課す一方、単にAIを使う「利用者」を規律対象から除外しました。
問題は、この産業では両者の境界が曖昧なことです。企業が自ら生成AIを開発して融資審査サービスを提供すると、開発事業者かつ利用事業者で、生成AI事業者かつ高影響AI事業者にもなります。多くの企業が既存の大規模言語モデル（LLM）を微調整してサービスを作る現在、些細な問題ではありません。
🧩 AI基本法の空白（2）— 表示義務
第二は表示義務の限界です。法律は大きく①製品・サービス提供の事前告知（第1項）、②出力が生成AI製である事実の表示（第2項）、③現実と区別しにくいディープフェイク出力の告知・表示（第3項）を定めます。具体的には次のとおりです。
第31条（人工知能の透明性確保義務）①事業者は、高影響人工知能または生成型人工知能を用いる製品・サービスを提供しようとする場合、当該人工知能に基づき運用される事実を利用者に事前告知しなければならない。②事業者は、生成型人工知能またはこれを用いる製品・サービスを提供する場合、出力が生成型人工知能によって生成された事実を表示しなければならない。③事業者は、人工知能システムを用い現実と区別しにくい仮想音声、画像、映像等を提供する場合、人工知能システムによって生成された事実を、利用者が明確に認識できる方法で告知または表示しなければならない。出力が芸術的・創造的表現に該当し、またはその一部を構成する場合は、展示や鑑賞等を妨げない方法で告知・表示できる。④第1項の事前告知、第2項の表示、第3項の告知・表示の方法および例外等に必要な事項は大統領令で定める。
具体的な表示方法は法律本文ではなく、科学技術情報通信部が2025年11月に立法予告した施行令案（第22条）と、その後公開した「人工知能の透明性確保ガイドライン」に示されました。
通常の生成物（文章・画像等）は、人の目に見える表示でも、機械が読む不可視表示（電子透かし・メタデータ）でも認められます。ただし不可視方式なら、生成AI製であることを1回以上、案内文や音声で知らせる必要があります。サービス内だけで使う場合はUIやロゴ表示でも構いませんが、外へ持ち出す出力には表示が付随しなければなりません。一方、現実と区別しにくいディープフェイクは、利用者が明確に認識できる告知・表示が必要で、メタデータへ隠すだけでは不十分です。
問題は、この義務がサービスを提供する「事業者」にしか課されない点です。政府は「AIによる欺瞞的コンテンツが招く国民の混乱」を防ぐといいますが、悪用して拡散する利用者には責任がありません。先述のとおり、利用者を規律から除いたためです。事業者が表示しても配布者が消せば終わりで、本当に国民を守れるのでしょうか。例えばChatGPTに画像生成時「この絵はAIで生成しました」と書かせることが、権益保護にどんな実効性を持つのか疑問です。
私見では、出所明示を目的とする「生成AI」の表示規制を、事故防止が目的の「高影響AI」規制と一括したことに由来する問題でもありそうです。
💡 おわりに — 「偽りの烙印」から「真実の認証」へ
これは単に法律の作りが悪いという問題ではありません。多くの検討と精査を経て生まれたはずです。政府が少なくとも1年以上の指導期間を設けるとしている以上、その間にも多くの改善があるでしょう。
ただ私は、「AIで生成・編集された」と強制表示させる方式自体に根本的限界があると考えます。
大量のAI生成物すべてを規制できるかは別として、最も心配なのは逆効果です。表示を義務化し、表示付き出力が標準化・日常化するほど、人は「表示がなければ本物」と信じます。悪意ある利用者が表示を外した精巧な偽物を広めると、かえって無防備に騙されるおそれがあります。
だから方向を変えるべきです。偽物に「偽りの烙印」を押す消耗的規制を超え、改変されていない原本に「真実のタグ」を与えるパラダイムへ移るのです。可視透かしに固執せず、C2PAのようなメタデータによる出所認証標準を奨励し、従う主体にインセンティブを与える方が、偽物の洪水の中でデジタルの信頼を築く現実的な道でしょう。
先述のとおり、法律は施行済みですが現在は指導期間です。表示義務違反には是正命令、不履行には3,000万ウォン以下の過料が科されますが、当面は賦課が猶予されます。世界売上の最大7%を課し得るEU AI Actと比べれば、韓国の制裁は「世界最速、しかし最も軽く」に近いものです。だからこそ、指導期間が単なる処罰延期ではなく、こうした構造的な問いを再検討する時間になることを願います。「世界初」の称号は価値がありますが、それ自体がよい制度を保証はしません。最初に出発した国が最善の道も示せるか、その1年を見守ります。
#制度と技術のあいだ #AI基本法 #生成AI #表示義務 #C2PA #デジタルの信頼