EU-KI-Verordnung erzwingt verbindliche Kennzeichnung von Inhalten und Deepfake-Regeln gemäß Artikel 50

Bei der Änderung geht es um weit mehr als um das Hinzufügen eines weiteren Warnhinweises zu KI-generierten Inhalten. Brüssel versucht, gemeinsame Regeln zur Identifizierung synthetischer Medien festzulegen, bevor es unmöglich wird, authentisches Material von KI-generierten Inhalten im Internet zu unterscheiden.

KI-Transparenz ist nicht mehr optional

Bislang entschieden die meisten KI-Unternehmen selbst, wie viele Informationen sie über KI-generierte Inhalte bereitstellen wollten.

Einige führten Wasserzeichen-Technologien ein. Andere experimentierten mit Herkunftsnachweisen oder kleinen Kennzeichnungen, die darauf hinwiesen, dass ein Bild von KI erstellt wurde. Es gab keinen einheitlichen Ansatz, und die Teilnahme hing weitgehend von der Unternehmenspolitik ab und nicht von rechtlichen Verpflichtungen.

Das ändert sich mit Artikel 50.

Der im Juni veröffentlichte Verhaltenskodex der Europäischen Kommission zur Transparenz bleibt freiwillig. Mehr als 180 Organisationen, darunter Google, haben ihn unterzeichnet, weil er einen klaren Weg zur Erfüllung der neuen gesetzlichen Anforderungen in der gesamten EU bietet.

Das Gesetz selbst ist jedoch nicht optional. Unternehmen, die den Kodex ignorieren, müssen dennoch nachweisen, dass ihre eigenen Systeme dieselben gesetzlichen Standards erfüllen. Wenn sie dies nicht tun, können nationale Aufsichtsbehörden Geldstrafen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes verhängen.

Für KI-Entwickler ist Transparenz zu einer Frage der Compliance geworden und nicht mehr zu einer PR-Angelegenheit.

Unterschiedliche Regeln für Entwickler und Herausgeber

Ein wichtiges Merkmal von Artikel 50 ist, dass er nicht die gesamte Verantwortung auf eine Seite der Branche legt.

Entwickler von KI-Systemen müssen sicherstellen, dass synthetische Inhalte maschinenlesbare Informationen enthalten, die zeigen, woher sie stammen. Ziel ist es, KI-generierte Bilder, Videos, Audiodateien und Texte für Plattformen und Regulierungsbehörden leichter automatisch erkennbar zu machen.

Herausgeber haben eine andere Aufgabe. Sie müssen sicherstellen, dass Nutzer wissen, wenn sie KI-generiertes Material zu Themen sehen, die das öffentliche Interesse berühren. Dasselbe gilt für Deepfakes und interaktive KI-Systeme, die Menschen klar darüber informieren müssen, dass sie mit Software und nicht mit einer anderen Person kommunizieren.

Die Gesetzgebung führt außerdem Meldepflichten für Emotionserkennungs- und biometrische Kategorisierungssysteme ein, die den Menschen das Recht geben zu erfahren, wann solche Technologien eingesetzt werden.

Statt KI als einzelnes Produkt zu behandeln, hat die EU die Verantwortung über die gesamte Kette verteilt – vom Unternehmen, das die Technologie entwickelt, bis zur Organisation, die ihre Ergebnisse der Öffentlichkeit präsentiert.

Digitale Rückverfolgbarkeit schaffen

Der wichtigste Teil der neuen Regeln könnte etwas sein, das die meisten Nutzer nie zu sehen bekommen.

Anstatt sich nur auf sichtbare Kennzeichnungen zu verlassen, möchte die EU, dass KI-generierte Inhalte maschinenlesbare Metadaten enthalten, die von Software automatisch erkannt werden können. Mit anderen Worten: Brüssel versucht, einen digitalen Datensatz zu schaffen, der KI-generiertes Material überallhin begleitet.

Die Idee ist einfach. Ein Etikett auf einem Bild kann ausgeschnitten oder gelöscht werden. In die Datei eingebettete Metadaten sind viel schwerer zu entfernen, ohne Spuren zu hinterlassen. Wenn dieser Ansatz breit angewendet wird, können Online-Plattformen, Faktenprüfer und Regulierungsbehörden synthetische Inhalte viel schneller und in viel größerem Umfang identifizieren.

Deshalb werden Technologien wie Googles SynthID und der Provenienzstandard C2PA immer wichtiger. Sie sollen digitale Inhalte von dem Moment an nachvollziehbar machen, in dem sie erstellt werden, und nicht erst, nachdem sie sich bereits im Internet verbreitet haben.

Das Ziel geht über die Hilfe für Nutzer hinaus, gefälschte Bilder zu erkennen. Die EU versucht, eine technische Infrastruktur aufzubauen, die es ermöglicht, digitale Informationen selbst zu verifizieren.

Europas Regeln werden zu globalen Regeln

Obwohl das KI-Gesetz ein europäisches Gesetz ist, wird seine Wirkung nicht an den Grenzen der EU haltmachen.

Jedes Unternehmen, dessen KI-generierte Inhalte Nutzer in der Europäischen Union erreichen, muss Artikel 50 einhalten, unabhängig davon, wo das Unternehmen seinen Sitz hat. Ein Entwickler in den USA oder Asien hat dieselben Verpflichtungen, wenn seine Produkte auf dem europäischen Markt verfügbar sind.

Dies ist ein weiteres Beispiel für den sogenannten „Brüssel-Effekt“. Da die EU einen der größten digitalen Märkte der Welt darstellt, entscheiden sich Unternehmen oft dafür, europäische Standards überall anzuwenden, anstatt für verschiedene Regionen getrennte Systeme zu unterhalten.

Das macht das KI-Gesetz weit über Europa hinaus einflussreich. Selbst Unternehmen ohne Hauptsitz oder wesentliche Betriebsstätten in der EU müssen ihre Produkte möglicherweise neu gestalten, um den Zugang zu europäischen Kunden zu behalten.

Für viele Technologieunternehmen wird die Einhaltung des KI-Gesetzes wahrscheinlich Teil ihrer globalen Geschäftsstrategie und nicht nur eine europäische Rechtsvorschrift sein.

Compliance wird nicht überall gleich einfach sein

Nicht jedes Unternehmen wird vor derselben Herausforderung stehen.

Große Technologieunternehmen haben Jahre damit verbracht, Wasserzeichensysteme, Herkunftsnachweise und Compliance-Teams zu entwickeln. Viele verfügten bereits vor dem Inkrafttreten der Regeln über die technischen Ressourcen, die für die Anpassung ihrer Produkte erforderlich waren.

Kleinere Entwickler haben eine viel schwerere Aufgabe.

Insbesondere Open-Source-KI-Projekte stehen vor einem praktischen Problem. Sobald ihre Modelle veröffentlicht sind, haben sie nur sehr wenig Kontrolle darüber, wie andere sie modifizieren oder verteilen. Maschinenlesbare Kennzeichnungen an KI-generierten Inhalten während dieses gesamten Prozesses zu erhalten, ist weitaus schwieriger als für Unternehmen, die geschlossene kommerzielle Plattformen betreiben.

Dadurch könnten die Compliance-Kosten viel stärker auf Startups und Open-Source-Entwickler entfallen als auf etablierte Technologiegiganten.

Das könnte eine der weniger sichtbaren Folgen des KI-Gesetzes werden. Regeln, die die Transparenz verbessern sollen, könnten es kleineren Akteuren auch erschweren, mit Unternehmen zu konkurrieren, die bereits über das Geld, das juristische Know-how und die technische Infrastruktur verfügen, die für die Erfüllung der neuen Anforderungen erforderlich sind.

Transparenz ist nur ein Teil der Herausforderung

Nur wenige würden dagegen argumentieren, KI-generierte Inhalte leichter identifizierbar zu machen. Die größere Debatte ist, ob die wachsende Zahl von Kennzeichnungen, Hinweisen und technischen Standards das Leben für Nutzer tatsächlich einfacher machen wird.

Sogar Unternehmen, die die neuen Regeln unterstützen, haben davor gewarnt. Google beispielsweise hat den Verhaltenskodex der Kommission unterzeichnet, aber auch argumentiert, dass zu viele überlappende Anforderungen die Nutzer verwirren statt ihnen zu helfen. Unterschiedliche Wasserzeichensysteme, mehrere Warnhinweise und unterschiedliche technische Standards könnten einen Flickenteppich schaffen, der für Unternehmen und Öffentlichkeit schwer zu durchschauen ist.

Brüssel hat dieses Risiko akzeptiert. Die Ansicht ist, dass ein kompliziertes Transparenzsystem immer noch besser ist, als KI-generierte Inhalte ohne zuverlässige Möglichkeit zur Identifizierung ihrer Herkunft zirkulieren zu lassen.

Diese Denkweise erklärt, warum sich die EU so stark auf Provenienz konzentriert hat und nicht nur auf sichtbare Kennzeichnungen. Ziel ist es, ein System zu schaffen, das nicht nur für einzelne Nutzer funktioniert, sondern auch für Online-Plattformen, Regulierungsbehörden und Faktenprüfer, die versuchen, synthetische Inhalte in großem Maßstab zu erkennen.

Ein neuer Abschnitt in der KI-Regulierung

Artikel 50 ist ein weiterer Schritt bei der schrittweisen Einführung des KI-Gesetzes und keine eigenständige Maßnahme. In früheren Phasen wurden Beschränkungen für KI-Praktiken mit hohem Risiko und neue Pflichten für Entwickler allgemeiner KI-Modelle eingeführt. Jetzt verlagert sich der Fokus auf die Inhalte, die diese Systeme erzeugen.

Das könnte sich als eine der bedeutendsten Änderungen in der gesamten Gesetzgebung erweisen.

Jahrelang drehte sich die Diskussion um KI darum, was diese Systeme erschaffen können. Europa stellt jetzt eine andere Frage: Lässt sich jedes KI-generierte Bild, Video, jede Audioaufnahme oder jeder Text bis zu seiner Quelle zurückverfolgen?