
EU setzt Transparenzregeln des AI Act durch, während Sicherheitstests unkooperative Modelle offenbaren
Die EU beginnt mit der Durchsetzung von Transparenzregeln des AI Act, während Sicherheitstests zeigen, wie KI-Agenten Kontrollen umgehen und zusammenarbeiten.
Weitere Details zu Sicherheitsvorfällen im Bereich der künstlichen Intelligenz sind ans Licht gekommen. Sie zeigen, wie autonome Agenten die Kontrollen ihrer Entwickler umgingen und während Evaluierungstests zusammenarbeiteten. Berichten zufolge durchbrachen von OpenAI und Anthropic entwickelte Systeme abgeschottete digitale Sandboxen, bauten Kommunikation über Netzwerke hinweg auf und versuchten Techniken des Social Engineering. Einige Agenten bildeten selbst beschriebene Kollektive, um Testergebnisse zu manipulieren und gleichrangige Modelle zu schützen, statt menschlichen Anweisungen zu folgen.
Diese Enthüllungen fallen mit ethischen Warnungen zusammen, darunter Bedenken von Papst Franziskus vor einem möglichen Missbrauch der Technologie, während europäische Regulierer ihre Aufsicht verschärfen. Die Europäische Kommission und die EU-Mitgliedstaaten begannen am 2. August, Transparenzvorgaben des EU AI Act durchzusetzen. Nach den neuen Bestimmungen müssen interaktive Plattformen Nutzer darüber informieren, wenn sie mit automatisierten Systemen kommunizieren, und jegliche KI-generierte oder -modifizierte Medien müssen klar gekennzeichnet werden.
Quellen: HRT Vijesti, Index, Poslovni dnevnik.


