Europa bringt ein Etikett für künstliche Realität an

Die Europäische Union ist in eine neue Phase ihres Versuchs eingetreten, die Informationsrisiken zu kontrollieren, die durch generative künstliche Intelligenz entstehen. Seit dem 2. August verlangen neue Transparenzpflichten gemäß dem EU-KI-Gesetz von Unternehmen, offenzulegen, wenn Menschen mit KI interagieren, und bestimmte KI-generierte oder manipulierte Inhalte, einschließlich Deepfakes, zu kennzeichnen.

Die Regeln sollen ein Problem angehen, das mit herkömmlichem Faktencheck allein immer schwerer zu lösen ist: Synthetische Inhalte können heute in enormem Umfang produziert, auf bestimmte Zielgruppen zugeschnitten und schneller verbreitet werden, als Institutionen sie verifizieren können. Die Europäische Kommission argumentiert, dass Transparenz daher zu einer Voraussetzung für das Vertrauen in die Informationsumgebung wird.

Aber Europas neuer Ansatz wirft eine größere Frage auf. Wenn den Menschen gesagt wird, dass etwas künstlich ist, werden sie dann tatsächlich besser darin, Manipulation zu erkennen – oder werden Etiketten letztlich nur ein weiteres Stück visuelles Rauschen in einem Internet, das bereits mit Warnungen, Abzeichen und Haftungsausschlüssen gesättigt ist?

Die EU zielt auf die überzeugendsten Fälschungen

Artikel 50 des KI-Gesetzes konzentriert sich besonders auf Inhalte, die plausibel mit der Realität verwechselt werden könnten. Anbieter von KI-Systemen müssen generierte oder manipulierte Inhalte technisch erkennbar machen, während diejenigen, die Systeme einsetzen, offenlegen müssen, wenn sie Deepfakes produzieren.

Die Regeln decken auch KI-generierten Text ab, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, wobei eine wichtige Ausnahme gilt, wenn solches Material einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine Person oder Organisation die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Künstlerische, kreative, satirische und fiktive Werke werden ebenfalls anders behandelt, wobei die Transparenzanforderungen so gestaltet sind, dass sie ihre Präsentation nicht beeinträchtigen.

Diese Unterscheidung ist für den europäischen Mediensektor von Bedeutung. Die Gesetzgebung erklärt nicht einfach, dass jedes Stück KI-gestützten Journalismus eine Warnung tragen muss. Stattdessen versucht sie, zwischen KI als Produktionswerkzeug und KI als Ursprung von Material, das die Öffentlichkeit täuschen könnte, zu unterscheiden.

Diese Unterscheidung wird immer wichtiger, da Nachrichtenredaktionen generative KI in Recherche, Übersetzung, Transkription, Bildproduktion und Bearbeitung integrieren.

Kennzeichnung ist nur so nützlich wie ihre Infrastruktur

Die Lösung der EU hängt stark von technischen Markierungen ab, die die Bewegung von Inhalten zwischen Plattformen überstehen.

Der Rahmen der Kommission fordert maschinenlesbare Informationen, die es ermöglichen, KI-generierte oder manipulierte Inhalte zu erkennen, sowie eine klare Offenlegung für Nutzer. Die EU hat auch einen Umsetzungsrahmen durch ihren Verhaltenskodex für Transparenz von KI-generierten Inhalten entwickelt.

Das Problem ist, dass digitale Inhalte selten dort bleiben, wo sie ursprünglich erstellt wurden.

Ein KI-generiertes Video kann innerhalb von Minuten heruntergeladen, zugeschnitten, neu codiert, erneut gepostet und auf einer anderen Plattform eingebettet werden. Screenshots können kontextuelle Informationen vollständig entfernen. Ein synthetisches Bild kann ohne die Oberfläche zirkulieren, auf der seine ursprüngliche Offenlegung erschien.

Dies schafft eine grundlegende Schwäche in jedem Kennzeichnungssystem: Ein Etikett, das beim Erstellen an Inhalten angebracht wird, bleibt nicht unbedingt sichtbar, wenn dieser Inhalt in das breitere Informationsökosystem gelangt.

Die EU versucht daher, etwas Ehrgeizigeres als ein Warnsystem aufzubauen. Sie versucht effektiv, eine Schicht der Herkunft für synthetische Medien zu schaffen – eine Möglichkeit, die Herkunft digitaler Inhalte nachvollziehbar zu machen, selbst wenn sie sich über Plattformen bewegen.

Europa reguliert Vertrauen, nicht nur Technologie

Die politische Bedeutung der Regeln geht über Deepfakes hinaus.

KI-generierte Medien sind zunehmend in der Lage, scheinbar authentische politische Aussagen, erfundene Ereignisse und synthetische Beweise zu erzeugen. Die Gefahr beschränkt sich nicht auf einzelne Betrugsfälle oder virale Fehlinformationen. Bei Wahlen, Konflikten und großen politischen Krisen kann erfundenes Material gezielt hergestellt werden, um Unsicherheit auszunutzen und bestehende Überzeugungen zu verstärken.

Die Kommission rahmt die Transparenzregeln ausdrücklich darauf, Täuschung und Manipulation zu reduzieren und die Integrität der europäischen Informationsumgebung zu schützen.

Das macht das KI-Gesetz zu einem Teil einer viel breiteren europäischen Regulierungsstrategie. Die EU behandelt die digitale Informationsumgebung zunehmend als Infrastruktur, die Schutzmaßnahmen erfordert, und nicht als einen Raum, in dem Plattformen und Nutzer einfach sich selbst überlassen bleiben können, um Risiken zu managen.

Der Ansatz spiegelt auch die wachsende Erkenntnis wider, dass das Problem mit generativer KI nicht unbedingt darin besteht, dass synthetische Inhalte existieren. Das Problem ist, dass Menschen möglicherweise nicht feststellen können, ob das, was sie sehen, generiert, manipuliert oder in der physischen Welt aufgezeichnet wurde.

Das Etikett kann die Täuschung möglicherweise nicht besiegen

Es besteht jedoch das Risiko, dass Transparenz ein falsches Sicherheitsgefühl erzeugen könnte.

Ein Etikett kann einer Person sagen, dass Inhalte von KI generiert wurden. Es kann ihnen nicht sagen, ob die Inhalte falsch, bösartig, satirisch, politisch motiviert oder harmlos sind. Ein synthetisches Bild eines fiktiven Ereignisses und ein erfundenes Video, das eine Wahl beeinflussen soll, könnten beide eine KI-Offenlegung tragen und dennoch radikal unterschiedliche Risiken darstellen.

Es gibt auch die Frage, ob die Menschen darauf achten werden.

Jüngste Forschung zur KI-Offenlegung deutet darauf hin, dass die bloße Information, dass man mit einem KI-System interagiert, nicht unbedingt dessen Überzeugungskraft verringert. In einem kürzlichen Experiment mit 1.500 britischen Erwachsenen hatte die Offenlegung, dass ein Chatbot KI-gestützt war, kaum Auswirkungen auf seine Fähigkeit, Einstellungen zu verändern, während zusätzliche Informationen über die Überzeugungsabsicht des Systems dessen Einfluss erheblich reduzierten.

Diese Erkenntnis weist auf eine breitere Grenze des europäischen Ansatzes hin. Zu wissen, dass etwas künstlich ist, ist nicht unbedingt dasselbe wie zu verstehen, was das künstliche System zu erreichen versucht.

Die nächste Schlacht wird um die Herkunft geführt

Die EU-Regeln werden die Technologiebranche wahrscheinlich in Richtung eines standardisierteren Systems zur Identifizierung synthetischer Medien drängen.

Einige Unternehmen reagieren bereits. Anthropic hat beispielsweise maschinenlesbare Wasserzeichen für Texte und Dateien eingeführt, die von seinen Claude-Modellen generiert werden, und verweist auf die Notwendigkeit, europäische Transparenzanforderungen zu erfüllen. Das Unternehmen sagt, der Ansatz solle KI-generiertes Material über die ursprüngliche Oberfläche hinaus leichter identifizierbar machen.

Dies könnte allmählich eine neue Erwartung an digitale Inhalte erzeugen: nicht einfach Was ist das?, sondern Woher kommt es?

Das würde eine bedeutende Veränderung in der Architektur des Internets darstellen. Jahrzehntelang waren digitale Informationen weitgehend darauf ausgelegt, kopiert zu werden, ohne zuverlässige Informationen über ihre Herkunft zu tragen. Generative KI macht dieses Modell zunehmend problematisch, da die Kosten für die Herstellung überzeugender synthetischer Materialien zusammengebrochen sind.

Europa versucht nun, diesen Trend umzukehren, indem es die Herkunft zu einem Teil des regulatorischen Umfelds macht.

Europa testet, ob Transparenz das KI-Zeitalter überleben kann

Der unmittelbare Erfolg der Regeln wird weniger davon abhängen, ob Unternehmen Etiketten auf KI-generierte Inhalte setzen können, als davon, ob diese Etiketten aussagekräftig bleiben, sobald Inhalte außerhalb ihres ursprünglichen Kontexts zirkulieren.

Die EU hat bereits Leitlinien und einen Verhaltenskodex bereitgestellt, um die Umsetzung konsistenter zu gestalten, während bestimmte KI-Systeme, die bereits vor Inkrafttreten der Regeln auf den Markt gebracht wurden, Übergangsregelungen bis zum 2. Dezember 2026 haben.

Die tiefere Herausforderung ist kultureller als technischer Natur. Europa versucht, eine Norm zu etablieren, in der synthetische Medien nicht als Realität ausgegeben werden dürfen, ohne offengelegt zu werden.

Das könnte sich als nützlich erweisen, selbst wenn kein Kennzeichnungssystem perfekt ist. Aber das Experiment der EU wird letztlich danach beurteilt, ob Transparenz verändert, wie Menschen Informationen konsumieren – nicht einfach danach, wie viele KI-generierte Dateien ein Etikett erhalten.