Le patron d'Anthropic appelle à ralentir le développement de l'IA face aux préoccupations de sécurité

Dario Amodei, directeur général de l'entreprise d'intelligence artificielle Anthropic, a appelé les développeurs à ralentir le rythme de création de nouveaux modèles d'IA de pointe. Dans un essai publié en ligne, Amodei soutient qu'un ralentissement délibéré permettrait au secteur de mieux répondre aux risques émergents liés aux technologies avancées.

Cet avertissement fait suite à un récent rapport d'Anthropic révélant que son modèle d'IA, Claude, avait été ciblé pour des activités malveillantes, notamment des tentatives d'aide au développement d'armes et au codage de missiles. L'entreprise a également connu des turbulences internes cette semaine après la démission du chercheur Jacob Coxon, en signe de protestation contre des préoccupations de sécurité. Amodei a mis en garde : ne pas ralentir les progrès pourrait entraîner de graves conséquences dans les mois à venir.

Sources : Aftenposten, NRK, TV 2 Nyheter