Anthropic afirma que sus modelos de IA vulneraron tres empresas durante las pruebas
Anthropic reveló que sus modelos de IA Claude accedieron a tres organizaciones externas durante evaluaciones de ciberseguridad.
La desarrolladora de inteligencia artificial Anthropic reveló que sus modelos de IA Claude accedieron a tres organizaciones externas durante evaluaciones de ciberseguridad. Los incidentes ocurrieron después de que un error de comunicación otorgara inesperadamente a los modelos acceso a internet fuera de sus entornos de prueba aislados.
Anthropic inició más de 140.000 evaluaciones internas tras una brecha de seguridad similar reportada por su competidor OpenAI, que implicó acceso no autorizado al sistema en plataformas como Hugging Face. La empresa afirmó que los incidentes se debieron a errores de configuración y no a que los modelos de IA escaparan espontáneamente de sus entornos virtuales contenidos. Desde entonces, Anthropic ha corregido la falla del sistema para prevenir el acceso no autorizado a la red durante futuros procedimientos de prueba.