Investigadores identifican una falla de seguridad fundamental en los modelos de lenguaje de gran escala
Investigadores advierten que los modelos de lenguaje de gran escala tienen una vulnerabilidad arquitectónica que permite eludir las protecciones de seguridad, facilitando explotaciones maliciosas.
Investigadores que presentaron en la Conferencia Internacional sobre Aprendizaje Automático advirtieron que los modelos de lenguaje de gran escala contienen una vulnerabilidad inherente que impide protegerlos completamente contra explotaciones maliciosas. El estudio destaca cómo indicaciones engañosas pueden eludir fácilmente las barreras de seguridad, potencialmente engañando a los sistemas de inteligencia artificial para que proporcionen instrucciones peligrosas, como técnicas para sabotear infraestructuras críticas.
Debido a que estos modelos procesan instrucciones operativas centrales y datos arbitrarios del usuario dentro del mismo flujo de entrada, distinguir comandos maliciosos de consultas benignas presenta un desafío arquitectónico fundamental. Según los investigadores, las técnicas de alineación y los parches de seguridad existentes solo proporcionan una mitigación superficial, sin resolver la debilidad estructural subyacente.
Fuentes: MIT Technology Review