EU kündigt neue KI-Sicherheitsstrategie an, während USA Zugang zu Spitzen-KI-Modellen einschränken

Die Europäische Union riskiert, den Zugang zu den neuesten Modellen der künstlichen Intelligenz zu verlieren, nachdem die Regierung von Donald Trump deren Nutzung auf US-Unternehmen und Organisationen beschränkt hat, die als „trusted partners“ eingestuft sind. Die neuen Regeln gelten für führende KI-Systeme, darunter Anthropics Mythos 5 und OpenAIs ChatGPT 5.6 – ein Schritt, der die Wettbewerbsfähigkeit europäischer Unternehmen im KI-Sektor erheblich beeinträchtigen könnte.

Die Entscheidung unterstreicht erneut die technologische Kluft zwischen Europa und den USA. Europas fortschrittlichster KI-Entwickler, das französische Unternehmen Mistral, hinkt seinen amerikanischen Konkurrenten noch immer hinterher. Als Reaktion hat das Europäische KI-Forum, das nationale KI-Organisationen aus ganz Europa vereint, gefordert, die öffentlichen Investitionen in künstliche Intelligenz zu verdreifachen und die öffentliche Hand zu verpflichten, bei der Beschaffung echteuropäische KI-Lösungen zu bevorzugen.

Vor dem Hintergrund des eingeschränkten Zugangs zu Spitzen-KI-Modellen bereitet die Europäische Kommission die Vorstellung ihrer ersten umfassenden Strategie für Cybersicherheit und künstliche Intelligenz vor. Die Initiative soll einen Rahmen für die Zusammenarbeit zwischen Brüssel und den EU-Mitgliedstaaten bei der Risikobewertung und der Gewährleistung des sicheren Einsatzes fortschrittlicher KI-Systeme schaffen. KI-Sicherheit ist zu einem immer drängenderen Thema geworden, da die Sorge besteht, dass die leistungsstärksten Modelle groß angelegte Cyberangriffe ermöglichen oder irgendwann außerhalb der sinnvollen menschlichen Kontrolle operieren könnten.

Besondere Aufmerksamkeit galt zuletzt dem Mythos-Modell von Anthropic, das das Unternehmen zunächst veröffentlichte, dann vorübergehend zurückzog und nach weiterer Entwicklung erneut auf den Markt brachte. Seine beispiellosen Cyber-Fähigkeiten sind zu einem der stärksten Argumente für eine verstärkte internationale Aufsicht über Spitzen-KI-Modelle geworden.

Als Reaktion darauf bauen die europäischen Länder ihre KI-Sicherheitsinfrastruktur rasch aus. Nachdem das Vereinigte Königreich 2023 als erstes Land der Welt ein KI-Sicherheitsinstitut eingerichtet hatte, gründete Frankreich sein eigenes Institut, Deutschland kündigte Pläne zur Schaffung einer ähnlichen Einrichtung an, Estland begann mit dem Aufbau eines entsprechenden Kompetenzzentrums, und die Niederlande erwägen ebenfalls die Einrichtung eines solchen. Das britische Institut hat bereits Vereinbarungen mit führenden US-KI-Laboren getroffen, die es ihm ermöglichen, neue Modelle vor ihrer öffentlichen Freigabe zu bewerten.

Die Europäische Union hat ebenfalls ein eigenes Aufsichtsorgan für künstliche Intelligenz eingerichtet – das KI-Büro, das im Rahmen des KI-Gesetzes geschaffen wurde. Anders als das britische Institut vereint das KI-Büro jedoch Sicherheitsaufsicht mit regulatorischer Durchsetzung und ist befugt, bei Nichteinhaltung Sanktionen zu verhängen. Laut Experten könnte diese Doppelrolle große KI-Unternehmen davon abhalten, ihre Modelle freiwillig für Tests vor der Markteinführung zur Verfügung zu stellen. Analysten argumentieren, dass US-KI-Entwickler eher bereit sind, mit dem britischen Institut zusammenzuarbeiten, gerade weil es KI-Risiken bewertet und nicht die Einhaltung von Vorschriften überwacht.

Die Agentur der Europäischen Union für Cybersicherheit (ENISA) hat bereits mit Tests von OpenAIs GPT-5.5 Cyber-Modell begonnen, hat aber derzeit keinen Zugang zu Anthropics Mythos. Ende Juni erklärte die Europäische Kommission, dass ENISA zusammen mit den Mitgliedstaaten und anderen EU-Einrichtungen einen umfassenden Rahmen für die Bewertung der Sicherheit von Spitzen-KI-Systemen entwickle. Nach Angaben von Kommissionsbeamten wird sich die bevorstehende Strategie auf die Koordinierung nationaler Ressourcen konzentrieren, um den sicheren Einsatz der fortschrittlichsten KI-Technologien Europas zu gewährleisten.