Les chercheurs identifient une faille de sécurité fondamentale dans les grands modèles de langage

Des chercheurs présentant leurs travaux à la Conférence internationale sur l'apprentissage automatique ont averti que les grands modèles de langage contiennent une vulnérabilité inhérente qui les empêche d'être entièrement sécurisés contre les exploitations malveillantes. L'étude souligne comment des incitations trompeuses peuvent facilement contourner les barrières de sécurité, en trompant potentiellement les systèmes d'intelligence artificielle pour qu'ils fournissent des instructions dangereuses, telles que des techniques de sabotage d'infrastructures critiques.

Étant donné que ces modèles traitent les instructions de fonctionnement de base et les données utilisateur arbitraires dans le même flux d'entrée, faire la distinction entre les commandes malveillantes et les requêtes bénignes représente un défi architectural fondamental. Selon les chercheurs, les techniques d'alignement et les correctifs de sécurité existants n'offrent qu'une atténuation superficielle plutôt que de résoudre la faiblesse structurelle sous-jacente.

Sources : MIT Technology Review