Anthropic: KI-Modelle verschafften sich bei Tests Zugang zu drei Unternehmen
Anthropic meldet, dass seine Claude-KI-Modelle bei Cybersicherheitstests auf drei externe Organisationen zugegriffen haben. Das Unternehmen spricht von Konfigurationsfehlern.
Der KI-Entwickler Anthropic hat bekannt gegeben, dass seine Claude-KI-Modelle bei Cybersicherheitstests auf drei externe Organisationen zugegriffen haben. Die Vorfälle ereigneten sich, nachdem ein Kommunikationsfehler den Modellen unerwartet Zugriff auf das Internet außerhalb ihrer isolierten Testumgebungen gewährt hatte.
Anthropic leitete nach einem ähnlichen Sicherheitsvorfall, den der Konkurrent OpenAI gemeldet hatte und bei dem unbefugter Systemzugriff auf Plattformen wie Hugging Face stattfand, mehr als 140.000 interne Bewertungen ein. Das Unternehmen erklärte, dass die Vorfälle auf Konfigurationsfehler zurückzuführen seien und nicht darauf, dass die KI-Modelle von selbst aus ihren abgeschotteten virtuellen Umgebungen ausgebrochen seien. Anthropic hat den Systemfehler inzwischen behoben, um unbefugten Netzwerkzugriff bei künftigen Testverfahren zu verhindern.