2026年1月22日，韩国成为全球首个全面施行《AI基本法》[1]的国家。欧盟虽较早制定《AI Act》，但高风险AI监管从2026年8月起才分阶段适用。因此，真正全面实施综合性AI法律的第一个国家是韩国。
[1] 《人工智能发展与信任基础建设等基本法》，简称《AI基本法》——2025年1月公布，2026年1月22日施行。
由于议题备受关注，介绍法律全貌，或批评“过度监管阻碍创新”的文章，其他地方已很多。本文换个方向，讨论我认为重要的两个空白，并审视整个AI监管范式。
🧩 AI基本法的空白（1）——主体识别
第一是主体识别混乱。第2条“定义”界定了人工智能等多个概念，值得关注的如下。
第2条（定义）本法所用术语含义如下。〈2026年1月20日修订〉1.“人工智能”指以电子方式实现人类学习、推理、感知、判断、理解语言等智力能力的事物。……4.“高影响人工智能”指可能对人的生命、身体安全及基本权利产生重大影响或造成风险，并用于以下任一领域的人工智能系统。（가.依《能源法》第2条第1项供应能源等……）……7.“人工智能经营者”指从事人工智能产业相关业务，属于以下任一类别的法人、团体、个人、国家机关等。가.人工智能开发经营者：开发并提供人工智能者。나.人工智能利用经营者：使用가目经营者提供的人工智能，提供人工智能产品或服务者。8.“用户”指接受人工智能产品或服务者。
“人工智能”和“高影响人工智能”究竟如何区分，已有充分讨论。但我认为，划分“经营者还是用户”更重要，也更棘手。
法律区分经营者与用户，又把经营者细分为开发经营者和利用经营者。同时，对经营者，尤其高影响AI和生成式AI经营者施加大量义务，却把仅仅拿来使用AI的“用户”排除在规制之外。
问题是，AI产业中经营者与用户界线模糊。一家公司自行开发生成式AI来提供贷款审查服务，就同时是开发经营者、利用经营者，也是生成式AI经营者和高影响AI经营者。在许多企业通过微调现有大语言模型（LLM）来开发服务的今天，这绝非小问题。
🧩 AI基本法的空白（2）——标识义务
第二是标识义务的局限。法律主要规定：①提供产品或服务前预先告知（第1款）；②标示产出由生成式AI制作（第2款）；③对难以与真实情况区分的深度伪造产出进行告知和标识（第3款）。具体如下。
第31条（确保人工智能透明度的义务）①经营者拟提供利用高影响人工智能或生成式人工智能的产品、服务时，应事先告知用户，该产品或服务基于相应人工智能运行。②经营者提供生成式人工智能，或利用其提供产品、服务时，应标示产出由生成式人工智能生成。③经营者利用人工智能系统提供难以与真实情况区分的虚拟声音、图像、视频等产出时，应以用户能够明确认识的方式，告知或标示其由人工智能系统生成。若产出属于艺术、创意表达，或构成其一部分，可采用不妨碍展示、欣赏等的方式告知或标示。④关于第1款预先告知、第2款标识、第3款告知或标识的方法、例外等必要事项，由总统令规定。
具体标识方式未写在法条本身，而载于科学技术信息通信部2025年11月公开预告的施行令制定案第22条，以及随后发布的《人工智能透明度保障指南》。
据此，一般生成物如文本、图片，既可采用人眼可见标识，也可采用机器读取的不可见标识，如水印、元数据。但选择不可见方式时，须至少一次通过提示文字或语音同时告知其由生成式AI制作。若只在服务内使用，界面或标志显示即可；若输出到外部，标识必须随产出保留。相反，对于难以与现实区分的深度伪造，必须采用用户可明确识别的告知、标识方式，仅藏在元数据中并不够。
问题在于，标识义务仅施加于提供服务的“经营者”。政府理由是防止“AI欺骗性内容造成国民混乱”，但滥用AI传播内容的用户并不承担责任，因为法律已把用户排除在规制外。即便经营者加上标识，传播者删除就行，这部法律真能保护国民吗？例如要求ChatGPT生成图片时注明“此图由AI生成”，对国民权益究竟有何实效，我对此存疑。
个人看来，这也可能源于将旨在注明来源的“生成式AI”标识监管，与旨在预防事故的“高影响AI”监管捆绑在一起。
💡 结语——从“虚假的烙印”走向“真实的认证”
这不只是《AI基本法》制定得好不好这么简单。它必然经过许多思考与审核。政府既然决定设置至少一年以上的引导期，期间也会进行诸多完善。
不过，我认为，强制标注“由AI生成或编辑”的方式本身，存在根本局限。
暂且不论能否监管海量AI生成物，我最担心的是反效果。越是强制标识，带标识的内容越常见、越成为标准，人们就越容易相信“没有标识就是真的”。恶意用户去除标识、传播精致假内容时，人们反而可能更毫无防备地受骗。
因此，我认为需要转变方向。超越给假内容烙上“虚假印记”的消耗式监管，转向给未经改动的原件赋予“真实标签”。与其执着于可见水印，不如鼓励C2PA等基于元数据的来源认证标准，并激励遵守者；这似乎是在假内容洪流中建立数字信任更现实的道路。
如前所述，法律虽已施行，目前仍处引导期。违反标识义务会收到整改命令，仍不遵从则处3,000万韩元以下罚款，但实际处罚暂时缓征。相比欧盟《AI Act》最高可按全球营收7%处罚，韩国更接近“全球最早，却最轻”。正因如此，希望引导期不是简单推迟处罚，而是重新审视上述结构性问题的时间。“全球首个”的名号当然宝贵，却不会自动保证制度优良。最早出发的国家能否也展示最佳道路，我想用这一年观察。
#制度与技术之间 #AI基本法 #生成式AI #标识义务 #C2PA #数字信任