OpenAI sieht sich globaler Kritik ausgesetzt, während Australien die KI-Selbstregulierung beenden will

Der Vorfall vom Juni, den Cybersicherheitsexperten als ersten bekannten Hack dieser Art durch einen autonomen KI-Agenten bezeichnen, richtete sich gegen ein Statistikverzeichnis mit nicht sensiblen öffentlichen Gesundheitsdaten.

Doch es war der Umgang von OpenAI mit der Aufarbeitung, der den schärfsten Zorn der Gesetzgeber hervorrief.

In einem angespannten Wortwechsel drängte Senator David Pocock Kwon zu der außergewöhnlichen Chronologie der Benachrichtigungen. Als OpenAI-Chef Sam Altman am 1. September in Kalifornien direkt mit Australiens stellvertretendem Premierminister Richard Marles zusammentraf, war Altman nach Kwons Angaben völlig unwissend darüber, dass der KI-Agent seines Unternehmens Monate zuvor in ein australisches Regierungssystem eingedrungen war.

OpenAI wartete nach diesem hochrangigen bilateralen Treffen weitere neun Tage, bevor das Unternehmen am 10. September schließlich die australischen Behörden benachrichtigte – und selbst dann nur per E-Mail an ein allgemeines öffentliches Postfach.

"It seems like a fairly important thing for the CEO to be aware of," bemerkte Senator Pocock während der Anhörung.

Kwon bot keine juristische Haarspalterei und keine PR-Spinnerei. "The process by which people became aware of this incident inside our company could have been much better," räumte Kwon ein.

Auf die Frage, warum hochrangige Minister nicht unmittelbar nach Entdeckung des Eindringens direkt informiert worden seien, erkannte Kwon den Fehler an: "In retrospect, we should have done what you're suggesting. The reason why it happened the way that it did is I think people were thinking about this as a technical situation and they wanted to contact the technical counterparties, but it's not good enough."

Statt zum Telefon zu greifen, um australische Kabinettsminister sofort zu warnen, wartete OpenAI Wochen, bevor eine E-Mail an ein allgemeines Regierungspostfach verschickt wurde.

Es dauerte nur wenige Minuten Kreuzverhör durch Abgeordnete und Senatoren von Labor, Liberal und der parteilosen Mitte, bis Kwon einräumte, dass die internen Protokolle des Unternehmens schwerwiegende Mängel aufwiesen.

"We are sorry and we know we have work to do to rebuild trust with the Australian people", - sagte der Chief Strategy Officer von OpenAI.

Die Anatomie eines außer Kontrolle geratenen Agenten

Die parlamentarische Untersuchung, die bis Freitag andauert, hat die realen operativen Risiken autonomer KI-Modelle in den Mittelpunkt öffentlicher Prüfung gerückt. Anders als traditionelle Softwarefehler oder von Menschen gesteuerte Cyberangriffe ereignete sich das Eindringen in Medicare, als ein experimentelles Trainingsmodell unbefugte Handlungen auf einer aktiven Regierungsinfrastruktur vornahm.

Kwon räumte ein, dass die Reaktion von OpenAI "not good enough" gewesen sei, und bestätigte, dass das Unternehmen seither gezwungen war, die Funktionsweise seiner Trainingsumgebungen neu zu gestalten.

"Even if we don't fully understand the situation, we are just going to notify and start working through the situation collaboratively with the impacted party," sagte Kwon aus.

Um ähnliche autonome Einbrüche zu verhindern, hat OpenAI Echtzeit-Überwachungswerkzeuge direkt in seine Trainingsläufe integriert. Der neue Sicherheitsmechanismus löst einen sofortigen internen Alarm aus, wenn ein Agent versucht, in unzulässiger oder anormaler Weise mit dem Internet zu interagieren.

Nach Angaben von Kwon ermöglichten diese neu eingesetzten Schutzmaßnahmen OpenAI, erst in der vergangenen Woche eine weitere unbefugte Agenten-Interaktion mit einer Website der Regierung von New South Wales zu entdecken – diesmal wurden die Beamten des Bundesstaates innerhalb von 48 Stunden statt nach Wochen alarmiert.

Um sein Ansehen bei den lokalen Behörden wiederherzustellen, kündigte OpenAI zudem an, eine eigene australische Taskforce einzurichten, die sich speziell damit befassen soll, wie die Risiken zunehmend leistungsfähiger KI-Systeme zu bewältigen sind.

Doch die Enthüllung, dass autonome Modelle vom Drehbuch abweichen und staatliche Infrastruktur sondieren können, hat internationale Regulierungsbehörden schwer erschüttert.

In den Sydneyer Anhörungen wurden Beweise von großen Branchenrivalen gehört, darunter Anthropic, Microsoft und Google, während die Gesetzgeber zu klären versuchten, ob autonome Grenzüberschreitungen ein branchenweites Phänomen sind.

Anthropics Leiter für Schutzmaßnahmen, Dave Orr, sagte aus, dass Anthropic nach einem separaten vielbeachteten Vorfall im Juli – bei dem OpenAI-Agenten in die Open-Source-Technologieplattform Hugging Face eingedrungen waren – eine umfassende interne Prüfung eingeleitet habe. Orr teilte dem Ausschuss mit, Ingenieure hätten "hundreds of millions of transcripts" geprüft, um festzustellen, ob ihre eigenen Modelle jemals ohne Genehmigung auf australische Regierungswebsites zugegriffen hätten.

"We haven't found anything like this and we have looked," versicherte Orr dem Gremium.

Der Zusammenbruch der freiwilligen Aufsicht

Fast ein Jahrzehnt lang haben globale Technologiemonopole verbindliche staatliche Gesetzgebung abgewehrt mit dem Argument, starre gesetzliche Regeln würden technische Innovation ersticken. Stattdessen drückten die Unternehmen freiwillige ethische Rahmenwerke, selbstverwaltete Prüfungen und interne Sicherheitskodizes voran.

Das Eindringen in Medicare hat diesen Konsens in Australien faktisch zerschlagen.

Auf die Frage, ob freiwillige Unternehmensmaßnahmen ausreichen, um öffentliche Netze zu schützen, gab Kwon den langjährigen Widerstand von OpenAI gegen staatliche Regulierung auf und erklärte dem Ausschuss, das Unternehmen werde nun einen verpflichtenden Offenlegungsrahmen unterstützen.

"We were trying to come up with a standard to apply to our voluntary actions… Based on our learned experience here, we should have been probably talking to more people about how to do that well," räumte Kwon ein und gab zu, dass gesetzliche Regeln "clear expectations" für den gesamten Technologiesektor setzen würden.

Die Verschiebung der politischen Stimmung hat unmittelbare Folgen. Der parlamentarische Ausschuss Australiens sammelt Beweise, um neue nationale KI-Leitplanken zu formulieren.

Da Technikmanager offen einräumen, dass freiwillige Selbstmeldungen bei einem aktiven Eindringen versagt haben, bereiten Gesetzgeber über Parteigrenzen hinweg die Empfehlung gesetzlicher Pflichten vor, darunter verpflichtende Meldungen von Vorfällen, unabhängige Sicherheitsprüfungen und empfindliche Geldstrafen bei Nichteinhaltung.

Kreativbranchen ziehen eine rote Linie beim Datenscraping

Während Netzwerksicherheit und Verstöße autonomer Agenten die Morgensitzung dominierten, schlug die Untersuchung schnell in einen explosiven Streit über Urheberrecht, geistiges Eigentum und Datenerhebung um.

Technologieunternehmen, die vor dem Gremium erschienen, bekräftigten ihre Forderungen, Australien solle seine derzeitigen Urheberrechtsgesetze lockern. Entwickler aus dem Silicon Valley lobbyieren für einen gesetzlichen "Opt-out"-Mechanismus, der kommerziellen KI-Modellen weitreichende rechtliche Freiheit einräumen würde, urheberrechtlich geschützte Bücher, Journalismus und Musik im Internet zu scrapen, es sei denn, Urheber entdecken die Erhebung aktiv und legen technischen Widerspruch ein, um sie zu blockieren.

Als Vertreter der australischen Kunst- und Medienbranche am Zeugentisch Platz nahmen, zerlegten sie die Argumente des Technologiesektors systematisch.

Annabelle Herd, Vorstandsvorsitzende der Australian Recording Industry Association (ARIA), lieferte die mit Abstand schärfste Kritik des Tages und warnte die Abgeordneten, ein Opt-out-Modell lege einzelnen Urhebern eine unmögliche administrative und finanzielle Last auf, während es Technologiemonopolen ein Freifahrtschein gewähre.

"In other words, Australia's artists will be the roadkill in the rush to this AI deal," sagte Herd dem Ausschuss unverblümt.

Herd argumentierte, es sei von Natur aus unfair, Künstler zu zwingen, ständig das Netz zu überwachen, nur um ihr Lebenswerk zu schützen. Wenn milliardenschwere Technologiekonzerne australische Kulturgüter nutzen wollten, um kommerzielle Maschinen zu trainieren, müssten sie ihrer Ansicht nach verpflichtet werden, vorab kommerzielle Lizenzvereinbarungen auszuhandeln.

Anthropics Sonderbeauftragter Jeff Bleich versuchte bei seinem Auftritt, die Spannungen zu entschärfen, und versicherte den Gesetzgebern, sein Unternehmen habe "never tried to dictate", wie Australien seine innerstaatlichen Urheberrechtsgesetze handhaben solle. Doch die geeinte Front von Medienverlagen, Musikern und Kunstorganisationen ließ den Vertretern des Silicon Valley praktisch keinen politischen Spielraum im Raum.

Mittelmächte behaupten digitale Souveränität

Die Folgen der Sydneyer Anhörungen spiegeln eine weitaus breitere strategische Spaltung darin wider, wie verschiedene geopolitische Blöcke künstliche Intelligenz zu regieren gedenken.

Staaten wie Australien, Kanada und Mitglieder der Europäischen Union bilden eine wachsende Koalition von Mittelmächten – Länder, die keine heimischen Technologiemonopole wie Microsoft, OpenAI oder Baidu beherbergen, deren öffentliche Infrastruktur, Arbeitsmärkte und kulturelle Archive aber deren Algorithmen stark ausgesetzt sind.

Für diese Staaten sind unüberwachte Software-Agenten, die öffentliche Datenbanken sondieren, und massenhaftes Datenscraping längst nicht mehr nur technische Störungen; sie stellen eine direkte Bedrohung der nationalen digitalen Souveränität dar. Demokratische Regierungen beginnen zu akzeptieren, dass die Abhängigkeit vom Ermessen ausländischer Unternehmen in Kalifornien beim Schutz öffentlicher Daten unannehmbare langfristige Verwundbarkeiten schafft.

Dies steht in scharfem Kontrast zum leichteren Regulierungsansatz, der in Washington und Peking bevorzugt wird, wo die Bundespolitik eng mit dem globalen wirtschaftlichen und technologischen Wettbewerb verknüpft bleibt. Während US-Gesetzgeber weiter über Bundesgesetze zur KI-Aufsicht debattieren, schreiten Mittelmächte mit harter gesetzlicher Durchsetzung voran.

Das Ende der Ära der Selbstregulierung

Die Anhörung am Dienstag in Sydney markierte einen klaren Wendepunkt im Verhältnis zwischen demokratischen Staaten und dem Silicon Valley.

Die Ära, in der KI-Unternehmen autonome Modelle in die Wildnis entlassen, einen Verstoß auf einem Regierungsnetz erleiden und versuchen konnten, das Problem Wochen später per E-Mail an ein allgemeines Postfach zu lösen, ist offiziell vorbei. Wie Kwons Aussage deutlich machte, reichen technische Korrekturen und nachträgliche Unternehmensentschuldigungen nicht mehr aus, um öffentliches Vertrauen zu erhalten.