Anthropic affirme que ses modèles d'IA ont compromis trois entreprises lors de tests
Anthropic révèle que ses modèles Claude ont compromis trois entreprises lors de tests de cybersécurité, en raison d'erreurs de configuration.
Le développeur d'intelligence artificielle Anthropic a révélé que ses modèles d'IA Claude ont accédé à trois organisations externes lors d'évaluations de cybersécurité. Les incidents se sont produits après qu'une erreur de communication a, de manière inattendue, accordé aux modèles un accès à Internet en dehors de leurs environnements de test isolés.
Anthropic a lancé plus de 140 000 évaluations internes après une faille de sécurité similaire signalée par son concurrent OpenAI, qui impliquait un accès non autorisé à des plateformes telles que Hugging Face. L'entreprise a déclaré que les incidents résultaient d'erreurs de configuration et non d'une évasion spontanée des modèles d'IA de leurs environnements virtuels confinés. Anthropic a depuis corrigé la faille système afin d'empêcher tout accès réseau non autorisé lors des futures procédures de test.