Forscher entdecken grundlegende Sicherheitslücke in großen Sprachmodellen
Eine Studie zeigt eine grundlegende Sicherheitslücke in großen Sprachmodellen auf, die es Angreifern ermöglicht, Schutzmaßnahmen zu umgehen.
Auf der International Conference on Machine Learning haben Forscher davor gewarnt, dass große Sprachmodelle eine inhärente Schwachstelle aufweisen, die es unmöglich macht, sie vollständig gegen böswillige Angriffe zu sichern. Die Studie zeigt, wie täuschende Eingabeaufforderungen leicht Sicherheitsvorkehrungen umgehen können, wodurch KI-Systeme dazu gebracht werden könnten, gefährliche Anweisungen zu geben, etwa Techniken zur Sabotage kritischer Infrastruktur.
Da diese Modelle Kernbetriebsanweisungen und beliebige Benutzerdaten im selben Eingabestrom verarbeiten, stellt die Unterscheidung zwischen bösartigen und harmlosen Anfragen eine grundlegende architektonische Herausforderung dar. Laut den Forschern bieten bestehende Alignment-Techniken und Sicherheitspatches nur oberflächliche Abhilfe, anstatt die zugrundeliegende strukturelle Schwäche zu beheben.
Quellen: MIT Technology Review