Pasó la época de considerar los deepfakes una curiosidad tecnológica o una broma. En un debate de la OMPI, el profesor Anderson Rocha redefinió los deepfakes y sus tecnologías asociadas como «realidades sintéticas»: no solo una forma de crear falsificaciones verosímiles, sino algo que transforma la realidad, es decir, la sociedad, el derecho y la política.
Los daños reales muestran que no exageraba. Desafortunadamente, lo que más rápidamente creció no fueron vídeos más sofisticados, sino contenidos dañinos, como material de explotación sexual, y delitos de ingeniería social en tiempo real, como suplantaciones de voz o entrevistas de vídeo falsas. La autenticación basada en rostro y voz sufre una amenaza fundamental; fotografías periodísticas sintéticas y expertos ficticios difunden desinformación y alteran la opinión pública; y los tribunales se preguntan qué es una prueba auténtica.
Al hacerse evidente el problema, los países reaccionaron con regulaciones distintas. Examinaremos sucesivamente cómo lo abordan la UE, Estados Unidos, Dinamarca, China y Corea.
🇪🇺 UE: reinterpretar las reglas existentes
Antes de crear leyes hay que comprobar si basta el marco disponible. El profesor Sebastian Schwemer examinó especialmente si la moderación de contenidos del Reglamento de Servicios Digitales (DSA), por la que las plataformas filtran contenido inadecuado, puede funcionar también con medios sintéticos.
El artículo 3, letra t), del DSA define la moderación como las actividades automatizadas o no de los prestadores de servicios intermediarios destinadas a detectar, identificar y tratar contenidos ilícitos o información incompatible con sus condiciones. Enumera ampliamente medios como reducir visibilidad, desmonetizar, bloquear el acceso, retirar y suspender o terminar cuentas. Amplía así mucho, respecto a la anterior Directiva de Comercio Electrónico, qué puede retirarse y cómo.
El problema es que este marco no basta para aplicarlo directamente a los deepfakes. Primero, lo sintético no es ilícito por sí mismo: Synthetic ≠ Illegal. El DSA apunta a contenidos ilícitos o contrarios a las condiciones, y muchos contenidos sintéticos no encajan claramente en ninguno. Segundo, se derrumba el propio criterio para decidir qué eliminar. Cuando coexisten verdades que parecen falsas y falsedades que parecen verdaderas, desaparece incluso la medida con la que juzgar si se retira demasiado o demasiado poco.
Eso no significa que el DSA ignore los deepfakes. Sin usar ese término, el artículo 35.1.k exige a las plataformas en línea de muy gran tamaño (VLOP) marcas destacadas para imágenes, sonidos y vídeos generados o manipulados que se parezcan sustancialmente a personas, objetos, lugares o sucesos reales y puedan parecer falsamente auténticos o veraces. También exige funciones para que los usuarios los denuncien directamente.
La transparencia del artículo 50 del Reglamento de IA de la UE sigue una lógica similar. Sin embargo, el etiquetado plantea la misma pregunta que veremos en Corea: si alguien malintencionado retira la marca y difunde el contenido, ¿quién responde y hasta dónde?
La verdadera fortaleza de la UE está en el procedimiento, no en el contenido. La revisión humana, las vías de impugnación y la explicación de decisiones previstas, entre otros, en el artículo 14 del DSA son fundamentales cuando resulta difícil determinar lo auténtico. El reto no es mejorar solo la detección, sino decidir dónde intervenir: en la plataforma generadora o durante la distribución, y cómo tratar instrucciones, resultados y nuevas subidas. Hay que determinar qué moderar, mediante qué procedimiento y bajo qué responsabilidad.
🇺🇸 Estados Unidos: crear nuevos derechos
La premisa estadounidense difiere de la europea. Según el profesor Ben Sheffner, el debate parte de que los derechos sobre réplicas digitales no pueden encajarse a la fuerza en el derecho de imagen o de autor existente. El derecho de publicidad estadounidense se diseñó para anuncios y productos derivados, con amplias exenciones para obras expresivas. Esa estructura deja fuera la creación por IA de nuevas interpretaciones o voces de actores y cantantes reales.
La industria actuó antes que el Gobierno. El acuerdo SAG-AFTRA tras la huelga de actores y profesionales audiovisuales de 2023 funcionó como norma provisional. Distingue réplicas digitales creadas durante una relación laboral y réplicas independientes: más que una diferencia técnica, es un compromiso para ordenar costes de transacción y responsabilidades. Busca mantener las prácticas productivas y reconocer el control de los actores.
Sobre esa base se impulsa federalmente la No Fakes Act. El proyecto crea un nuevo derecho de propiedad federal sobre réplicas digitales realistas, heredable y transferible, que dura setenta años tras la muerte. También responsabiliza a plataformas y proveedores de herramientas de IA durante toda la creación y distribución.
Quedan dos grandes controversias. Hay excepciones de interés público —noticias, biografías, crítica, investigación y sátira—, pero sus condiciones son ambiguas. Además, exigir a las plataformas retirada inmediata tras aviso del titular y bloqueo automático de nuevas subidas similares puede provocar un bloqueo excesivo.
La industria del entretenimiento y las asociaciones de artistas reclaman protección federal clara frente a daños reales, como deepfakes sexuales y fraudes de voz sintética. Los defensores de la libertad de expresión temen que demandar por la mera vulneración del derecho, sin demostrar un daño concreto, inhiba crítica, sátira y reconstrucción histórica. Documentalistas y otros creadores temen necesitar permiso para expresarse; pequeñas plataformas y el ecosistema abierto soportarían nuevas cargas de filtrado masivo.
🇩🇰 Dinamarca: ampliar los derechos de autor
Dinamarca fue de los países más rápidos y audaces. La reforma presentada por la profesora Stina Teilmann-Lock crea dos derechos dentro del sistema existente de derechos de autor para abordar los deepfakes, con entrada en vigor el 31 de marzo de 2026.
El primero protege a los intérpretes: una imitación digital realista que reproduzca su actuación artística requiere consentimiento. Como incluye actuaciones al margen de que constituyan obras, se considera que cuestiona la propia definición de obra que fundamenta la protección autoral.
El segundo protege frente a la imitación de la apariencia. Cubre contenidos que imitan realistamente características físicas y personales de cualquier persona, independientemente de su nacionalidad. Hay excepciones para parodia, sátira y crítica social, pero pueden limitarse cuando exista riesgo de daño grave por desinformación.
Dinamarca intenta reunir así fundamentos antes dispersos entre protección de datos, marketing y derecho penal en un criterio único y claro para retirar deepfakes. Quedan dos retos: 1) resulta difícil fijar conceptos como actuación artística o imitación realista mientras avanza la tecnología; 2) no está claro que estos nuevos derechos sean una prioridad real con la capacidad limitada de policía y justicia.
Por último, la profesora Teilmann-Lock señaló una posibilidad interesante: el sistema no solo podría frenar deepfakes, sino incorporar nuevos mercados, como avatares o celebridades sintéticas, a un marco institucional.
Continuará en el próximo artículo.