Am 22. Januar 2026 setzte Südkorea als erstes Land weltweit sein KI-Rahmengesetz[1] vollständig um. Die EU hatte ihren AI Act zwar früher verabschiedet, wendet die Regeln für Hochrisiko-KI aber erst ab August 2026 schrittweise an. Südkorea ist damit das erste Land, das ein umfassendes KI-Gesetz tatsächlich vollständig anwendet.
[1] Rahmengesetz über die Entwicklung künstlicher Intelligenz und die Schaffung einer Vertrauensgrundlage, kurz KI-Rahmengesetz — im Januar 2025 verkündet, seit 22. Januar 2026 in Kraft.
Angesichts des großen öffentlichen Interesses sind allgemeine Darstellungen des Gesetzes und Kritik nach dem Muster „Überregulierung verhindert Innovation“ andernorts bereits ausführlich erschienen. Ich möchte einen anderen Blick wählen, zwei aus meiner Sicht wichtige Lücken benennen und das grundlegende Paradigma der KI-Regulierung betrachten.
🧩 Lücke im KI-Rahmengesetz (1) — Zuordnung der Akteure
Die erste Lücke ist die Unklarheit bei der Zuordnung der Akteure. Artikel 2 definiert künstliche Intelligenz und weitere Begriffe. Besonders bemerkenswert sind folgende:
Artikel 2 (Begriffsbestimmungen). Die in diesem Gesetz verwendeten Begriffe bedeuten Folgendes. <Geändert am 20. Januar 2026.> 1. „Künstliche Intelligenz“ bezeichnet die elektronische Umsetzung menschlicher geistiger Fähigkeiten wie Lernen, Schlussfolgern, Wahrnehmen, Beurteilen und Sprachverstehen. ... 4. „KI mit hoher Auswirkung“ bezeichnet ein KI-System, das erhebliche Auswirkungen oder Risiken für menschliches Leben, körperliche Sicherheit und Grundrechte haben kann und in einem der folgenden Bereiche eingesetzt wird: (a. Versorgung mit Energie im Sinne von Artikel 2 Nummer 1 des Energiegesetzes usw.) ... 7. „KI-Unternehmer“ bezeichnet juristische Personen, Organisationen, Einzelpersonen, staatliche Stellen usw., die im Zusammenhang mit der KI-Industrie geschäftlich tätig sind und einer der folgenden Gruppen angehören: a. KI-Entwicklungsunternehmer: jemand, der KI entwickelt und bereitstellt; b. KI-Nutzungsunternehmer: jemand, der KI-Produkte oder -Dienste mithilfe der von einem Unternehmer nach Buchstabe a bereitgestellten KI anbietet. 8. „Nutzer“ bezeichnet jemanden, dem KI-Produkte oder -Dienste bereitgestellt werden.
Die genaue Abgrenzung zwischen KI und KI mit hoher Auswirkung wurde bereits vielfach hinterfragt. Ich halte die Unterscheidung zwischen Unternehmern und Nutzern für noch wichtiger und zugleich schwieriger.
Das Gesetz unterscheidet KI-Unternehmer und Nutzer und unterteilt Unternehmer weiter in Entwicklungs- und Nutzungsunternehmer. Es legt Unternehmern, insbesondere Anbietern von generativer KI und KI mit hoher Auswirkung, erhebliche Pflichten auf, nimmt aber Nutzer, die KI lediglich verwenden, aus der Regulierung aus.
Das Problem ist die für die KI-Branche typische unscharfe Grenze zwischen Unternehmer und Nutzer. Entwickelt eine Firma selbst generative KI und bietet damit Kreditprüfungen an, ist sie zugleich Entwicklungs- und Nutzungsunternehmer sowie Anbieter generativer KI und KI mit hoher Auswirkung. Da viele Unternehmen heute vorhandene große Sprachmodelle (LLM) feinabstimmen und daraus Dienste entwickeln, ist dies keine Nebensächlichkeit.
🧩 Lücke im KI-Rahmengesetz (2) — Kennzeichnungspflichten
Die zweite Lücke sind die Grenzen der Kennzeichnungspflicht. Das Gesetz verlangt im Wesentlichen eine vorherige Mitteilung bei Bereitstellung eines Produkts oder Dienstes (Absatz 1), die Kennzeichnung generativ erzeugter Ergebnisse (Absatz 2) und Hinweise oder Kennzeichnungen für schwer von der Wirklichkeit unterscheidbare Deepfakes (Absatz 3). Im Einzelnen:
Artikel 31 (Pflicht zur Gewährleistung von KI-Transparenz). (1) Ein KI-Unternehmer, der ein Produkt oder einen Dienst mit generativer KI oder KI mit hoher Auswirkung bereitstellen will, muss Nutzer vorab darüber informieren, dass das Produkt oder der Dienst auf dieser KI beruht. (2) Ein KI-Unternehmer, der generative KI oder darauf basierende Produkte oder Dienste anbietet, muss kennzeichnen, dass deren Ergebnisse durch generative KI erzeugt wurden. (3) Stellt ein KI-Unternehmer mithilfe eines KI-Systems virtuelle Töne, Bilder, Videos oder ähnliche Ergebnisse bereit, die schwer von der Wirklichkeit unterscheidbar sind, muss er durch einen Hinweis oder eine Kennzeichnung sicherstellen, dass Nutzer deren KI-Ursprung eindeutig erkennen. Sind solche Ergebnisse künstlerische oder kreative Ausdrucksformen oder deren Bestandteil, darf der Hinweis oder die Kennzeichnung so erfolgen, dass Ausstellung oder Genuss nicht beeinträchtigt werden. (4) Erforderliche Einzelheiten zu den Methoden der Vorabinformation nach Absatz 1, Kennzeichnung nach Absatz 2 sowie Information oder Kennzeichnung nach Absatz 3 und deren Ausnahmen werden durch Präsidialverordnung geregelt.
Die konkreten Kennzeichnungsmethoden stehen nicht im Gesetz selbst, sondern in Artikel 22 des vom Wissenschafts- und IKT-Ministerium im November 2025 angekündigten Entwurfs einer Durchführungsverordnung und in den später veröffentlichten Leitlinien zur Gewährleistung von KI-Transparenz.
Danach dürfen gewöhnliche Ergebnisse wie Texte und Bilder entweder sichtbar für Menschen oder unsichtbar maschinenlesbar, etwa durch Wasserzeichen und Metadaten, gekennzeichnet werden. Bei unsichtbarer Kennzeichnung muss zusätzlich mindestens einmal schriftlich oder per Sprache auf den generativen KI-Ursprung hingewiesen werden. Bleibt das Ergebnis im Dienst, genügen eine Anzeige in der Benutzeroberfläche oder ein Logo; bei einem Export muss die Kennzeichnung das Ergebnis begleiten. Schwer von der Wirklichkeit unterscheidbare Deepfakes müssen hingegen so gekennzeichnet oder angekündigt werden, dass Nutzer dies eindeutig erkennen. Versteckte Metadaten allein reichen nicht.
Das Problem: Diese Pflicht trifft nur den Unternehmer, der den Dienst anbietet. Die Regierung will Verwirrung der Bevölkerung durch täuschende KI-Inhalte verhindern, doch Nutzer, die KI missbrauchen und solche Inhalte verbreiten, tragen keine Verantwortung. Wie gesehen, nimmt das Gesetz sie aus. Selbst wenn der Anbieter kennzeichnet, kann der Verbreiter die Kennzeichnung einfach entfernen. Kann das Gesetz die Bevölkerung so schützen? Ich bezweifle etwa den praktischen Nutzen für Rechte und Interessen der Menschen, wenn ChatGPT bei der Bilderzeugung „Dieses Bild wurde mit KI erstellt“ angeben muss.
Meines Erachtens liegt ein Teil des Problems darin, dass Herkunftshinweise für generative KI mit Regeln für KI mit hoher Auswirkung zusammengefasst wurden, obwohl Letztere Unfälle verhindern sollen.
💡 Abschließende Gedanken — Wahrheit authentifizieren statt Falsches brandmarken
Es geht nicht einfach darum, dass das KI-Rahmengesetz schlecht gemacht sei. Es ist zweifellos nach ausführlicher Abwägung und Prüfung entstanden. Die Regierung sieht mindestens ein Jahr als Aufklärungs- und Übergangsphase vor; in dieser Zeit wird es sicher weitere Verbesserungen geben.
Ich sehe jedoch grundlegende Grenzen darin, Hinweise auf KI-Erzeugung oder -Bearbeitung zwingend vorzuschreiben.
Ob sich die Flut sämtlicher KI-Ergebnisse überhaupt regulieren lässt, sei dahingestellt. Meine größte Sorge ist die Gegenwirkung: Je verpflichtender und alltäglicher KI-Kennzeichnungen werden, desto eher glauben Menschen, alles Unmarkierte sei echt. Entfernen böswillige Nutzer die Kennzeichnung und verbreiten ausgefeilte Fälschungen, könnten Menschen ihnen gerade deshalb schutzloser erliegen.
Deshalb halte ich einen Richtungswechsel für nötig. Statt erschöpfend Fälschungen als falsch zu brandmarken, sollten wir unveränderte Originale mit Authentizitätsnachweisen versehen. Anstatt uns auf sichtbare Wasserzeichen zu fixieren, erscheint es realistischer, metadatenbasierte Herkunftsstandards wie C2PA zu fördern und diejenigen zu belohnen, die sie einhalten. So lässt sich digitales Vertrauen inmitten der Fälschungsflut aufbauen.
Wie bereits erwähnt, gilt das KI-Rahmengesetz schon, befindet sich aber in der Übergangsphase. Verletzungen der Kennzeichnungspflicht können Korrekturanordnungen und bei weiterer Missachtung Geldbußen bis zu 30 Millionen Won nach sich ziehen; die tatsächliche Verhängung ist jedoch vorerst ausgesetzt. Gegenüber den im EU AI Act möglichen Höchstbußen von 7% des weltweiten Umsatzes sind Südkoreas Sanktionen eher die weltweit frühesten und zugleich leichtesten. Umso mehr wünsche ich mir, dass diese Phase strukturelle Fragen neu beleuchtet, statt nur Strafen aufzuschieben. Das Prädikat „weltweit zuerst“ ist wertvoll, garantiert aber noch kein gutes System. Ich werde dieses Jahr verfolgen, ob der früheste Starter auch den besten Weg aufzeigt.
#ZwischenRegelnUndTechnik #KIRahmengesetz #GenerativeKI #Kennzeichnungspflicht #C2PA #DigitalesVertrauen