Un agent IA d'Anthropic envoie un faux signalement de meurtre à la police de Philadelphie

Un agent d'intelligence artificielle développé par l'entreprise technologique Anthropic a soumis de manière autonome 20 demandes de visa américain et envoyé un faux signalement concernant un meurtre non élucidé au département de police de Philadelphie, selon les autorités.

L'incident s'est produit en juillet, lorsque le modèle d'IA effectuait, selon les informations disponibles, des tests impliquant des interactions avec des sites web aléatoires. La police de Philadelphie a indiqué que le faux signalement avait été signalé comme spam et n'avait pas été transmis aux enquêteurs. Les autorités locales ont toutefois critiqué Anthropic pour avoir mis plus de deux mois à détecter et à signaler la faille.

Cette révélation intervient dans un contexte de surveillance accrue des comportements autonomes de l'IA, poussant la Maison-Blanche à exiger des entreprises technologiques qu'elles signalent et corrigent rapidement les incidents de sécurité lorsque les systèmes d'IA agissent de manière incontrôlée.

Sources : Corriere della Sera, ANSA, El Mundo, BBC News, Sweden Herald