Die Zeit, in der Deepfakes als technische Kuriosität oder harmloser Scherz galten, ist vorbei. In einer WIPO-Diskussion beschrieb Professor Anderson Rocha Deepfakes und verwandte Technologien neu als „synthetische Realitäten“. Es gehe nicht bloß um das Erzeugen echt wirkender Fälschungen, sondern um etwas, das die Wirklichkeit selbst verändert — Gesellschaft, Recht und Politik insgesamt.
Die tatsächlichen Schäden zeigen, dass diese Einschätzung nicht übertrieben ist. Leider wuchsen durch Deepfakes nicht vor allem ausgefeiltere Videos am schnellsten, sondern schädliches Material wie sexuelle Ausbeutungsdarstellungen und Social-Engineering-Delikte in Echtzeit, etwa Stimmimitationen oder gefälschte Videobewerbungsgespräche. Authentifizierung anhand von Gesicht und Stimme wird grundlegend bedroht; synthetische Pressefotos und erfundene Experten verbreiten Falschinformationen und beeinflussen die öffentliche Meinung. Gerichte müssen sich fragen, welche Beweise überhaupt echt sind.
Als das Problem deutlich wurde, reagierten die Staaten. Interessanterweise führten sie trotz desselben Problems unterschiedliche Regelungen ein. Ich werde nacheinander betrachten, wie die EU, die USA, Dänemark, China und Südkorea damit umgehen.
🇪🇺 EU — bestehende Regeln neu auslegen
Vor neuen Gesetzen muss geprüft werden, ob vorhandene Rahmen ausreichen. Professor Sebastian Schwemer untersuchte insbesondere, ob die im umfassenden Digital Services Act (DSA) definierte Inhaltsmoderation — das Filtern ungeeigneter Inhalte durch Plattformen — auch bei synthetischen Medien funktioniert.
Artikel 3 Buchstabe t DSA definiert Inhaltsmoderation als automatisierte oder nichtautomatisierte Tätigkeiten von Vermittlungsdiensteanbietern zur Erkennung, Identifizierung und Behandlung rechtswidriger Inhalte oder nicht mit den Geschäftsbedingungen vereinbarer Informationen. Die Mittel reichen von Herabstufung der Sichtbarkeit (Demotion), Unterbindung der Monetarisierung und Sperrung des Zugangs bis zur Entfernung sowie Aussetzung oder Beendigung von Nutzerkonten. Gegenüber der früheren E-Commerce-Richtlinie wurde der Umfang dessen, was wie entfernt werden kann, erheblich erweitert.
Der Rahmen reicht jedoch nicht für eine unmittelbare Anwendung auf Deepfakes. Erstens ist synthetisch nicht automatisch rechtswidrig (Synthetic ≠ Illegal). Der DSA richtet sich gegen rechtswidrige oder vertragswidrige Inhalte, doch viele synthetische Inhalte passen in keine der beiden Kategorien. Zweitens bricht grundlegender noch der Maßstab dafür weg, was entfernt werden soll. Wenn echt wirkende Fälschungen und falsch wirkende Originale nebeneinander bestehen, fehlt sogar die Grundlage zur Beurteilung übermäßiger oder unzureichender Löschung.
Das bedeutet nicht, dass der DSA Deepfakes ignoriert. Er verwendet den Begriff zwar nicht, doch Artikel 35 Absatz 1 Buchstabe k verlangt von sehr großen Online-Plattformen (VLOP), erzeugte oder manipulierte Bilder, Töne und Videos, die existierenden Personen, Objekten, Orten oder Ereignissen erheblich ähneln und fälschlich echt oder wahr erscheinen, durch auffällige Kennzeichnungen kenntlich zu machen. Nutzer sollen solche Inhalte auch selbst melden können.
Einen ähnlichen Zweck verfolgt die Transparenzpflicht in Artikel 50 des EU-KI-Gesetzes. Die Kennzeichnungspflicht stößt jedoch auf dieselbe Frage wie später in Südkorea: Wer trägt wie weit Verantwortung, wenn böswillige Nutzer die Kennzeichnung entfernen und Inhalte verbreiten?
Die eigentliche Stärke der EU liegt dennoch im Verfahren, nicht im Inhalt. Verfahrenssicherungen des DSA wie menschliche Prüfung, Beschwerdewege und Begründung von Maßnahmen, unter anderem in Artikel 14, sind zentral in einer Zeit, in der Echtheit schwer feststellbar ist. Die verbleibende Aufgabe ist daher weniger höhere Erkennungsgenauigkeit als die Entscheidung, wo eingegriffen wird — bei der erzeugenden Plattform oder der Verbreitung, mit welchem Umgang mit Prompts, Ausgaben und erneuten Uploads — und was unter welchem Verfahren in wessen Verantwortung moderiert wird.
🇺🇸 USA — neue Rechte schaffen
Die USA gehen von einer anderen Grundlage aus. Nach Professor Ben Sheffners Darstellung beginnt ihre Diskussion damit, dass sich ein Recht an digitalen Nachbildungen nicht in bestehende Bildnis- oder Urheberrechte pressen lässt. Das amerikanische Bildnisrecht war ursprünglich auf Werbung und Merchandising ausgerichtet und nimmt Ausdruckswerke weitgehend aus. Dadurch bleibt eine Lücke, wenn generative KI neue Darbietungen und Stimmen realer Schauspieler oder Sänger erzeugt.
Zuerst handelte nicht die Regierung, sondern die Branche. Die nach dem Streik der Schauspieler- und Rundfunkgewerkschaft 2023 geschlossene SAG-AFTRA-Vereinbarung wirkte als vorläufige Norm. Sie unterscheidet im Beschäftigungsverhältnis erstellte digitale Repliken von unabhängig erzeugten. Das ist weniger eine technische Trennung als ein Kompromiss zur Ordnung von Transaktionskosten und Verantwortlichkeit: Bestehende Produktionspraktiken sollten erhalten bleiben und zugleich die Kontrolle der Darsteller anerkannt werden.
Darauf baut das auf Bundesebene verfolgte Gesetzesvorhaben No Fakes Act auf. Es schafft für realistische digitale Repliken ein neues bundesrechtliches Vermögensrecht, das 70 Jahre nach dem Tod fortbesteht, vererblich und übertragbar ist. Auch Plattformen und Anbieter von KI-Werkzeugen sollen über den gesamten Erzeugungs- und Verbreitungsprozess Verantwortung tragen.
Dabei bestehen zwei große Streitpunkte. Erstens gibt es Ausnahmen für gemeinwohlbezogene Nutzungen wie Nachrichten, Biografien, Kritik, Wissenschaft und Satire, deren Voraussetzungen jedoch unklar sind. Zweitens könnte das Modell, bei Rechteinhaberhinweisen sofort zu löschen und erneute Uploads ähnlicher Inhalte automatisch zu blockieren, zu übermäßiger Sperrung führen.
Unterhaltungsindustrie und Künstlerverbände verweisen auf reale Schäden wie sexuelle Deepfakes und Betrug mit synthetischen Stimmen und verlangen eindeutigen bundesrechtlichen Schutz. Vertreter der Meinungsfreiheit fürchten dagegen, dass Klagen allein wegen einer Rechtsverletzung ohne Nachweis konkreter Schäden Kritik, Satire und historische Nachstellungen abschrecken. Dokumentarfilmer und andere Kreative sorgen sich um ein System, in dem Ausdruck erst nach Erlaubnis möglich ist. Kleinere Plattformen und das Open-Source-Ökosystem tragen zusätzliche Lasten, weil sie sich große Filterinfrastrukturen schwer leisten können.
🇩🇰 Dänemark — das Urheberrecht erweitern
Dänemark gehört zu den schnellsten und mutigsten Staaten. Der von Professorin Stina Teilmann-Lock vorgestellte Änderungsentwurf schafft unter der Annahme, Deepfakes im bestehenden Urheberrecht zu behandeln, zwei neue Rechte und tritt am 31. März 2026 in Kraft.
Erstens gibt es einen Schutz für ausübende Künstler: Wenn eine realistische digitale Nachahmung eine künstlerische Darbietung reproduziert, ist die Zustimmung der betroffenen Person erforderlich. Da auch Darbietungen unabhängig von ihrer Werkeigenschaft erfasst werden, wird dies als Erschütterung des Werkbegriffs angesehen, der bislang dem Urheberrecht zugrunde lag.
Zweitens gibt es Schutz vor Nachahmung der Erscheinung. Er schützt alle natürlichen Personen unabhängig von ihrer Staatsangehörigkeit vor Inhalten, die körperliche und persönliche Merkmale realistisch nachbilden. Parodie, Satire und Gesellschaftskritik sind ausgenommen, doch selbst diese Ausnahme wird begrenzt, wenn erhebliche Schäden durch Falschinformationen drohen.
Dänemark will damit bisher auf Datenschutz-, Marketing- und Strafrecht verteilte Grundlagen zu einem klaren einheitlichen Maßstab bündeln, nach dem Plattformen Deepfakes entfernen können. Zwei Aufgaben bleiben: Erstens lassen sich zentrale Begriffe wie künstlerische Darbietung und realistische Nachahmung bei fortschreitender Technik schwer festschreiben. Zweitens ist unklar, ob diese neuen Rechte angesichts begrenzter Kapazitäten von Polizei und Justiz tatsächlich Priorität erhalten.
Abschließend nannte Teilmann-Lock eine interessante Möglichkeit: Das System könnte nicht nur Deepfakes eindämmen, sondern neue Märkte wie Avatare oder synthetische Unterhaltungskünstler in einen institutionellen Rahmen einbinden.
Fortsetzung im nächsten Beitrag.