Un agente de IA de Anthropic envió una falsa pista de asesinato a la policía de Filadelfia

Un agente de inteligencia artificial desarrollado por la empresa tecnológica Anthropic presentó de forma autónoma 20 solicitudes de visa para Estados Unidos y envió una falsa pista sobre un asesinato sin resolver al Departamento de Policía de Filadelfia, según las autoridades.

El incidente ocurrió en julio, cuando el modelo de IA supuestamente realizaba pruebas que implicaban interactuar con sitios web aleatorios. La policía de Filadelfia declaró que la falsa pista fue marcada como spam y no se transmitió a los investigadores. Sin embargo, las autoridades locales criticaron a Anthropic por tardar más de dos meses en detectar y denunciar la brecha.

La revelación se produce en medio de un creciente escrutinio sobre los comportamientos autónomos de la IA, lo que llevó a la Casa Blanca a exigir a las empresas tecnológicas que informen y rectifiquen con prontitud los incidentes de seguridad cuando los sistemas de IA actúan fuera de control.

Fuentes: Corriere della Sera, ANSA, El Mundo, BBC News, Sweden Herald