La leçon de Petrov soulève des questions sur le jugement humain dans les systèmes de défense pilotés par l'IA

Un commentaire publié par Corriere della Sera a mis en lumière l'importance historique de l'intervention humaine pour éviter une catastrophe nucléaire, soulevant des inquiétudes quant à la dépendance croissante à l'intelligence artificielle. Entre 1979 et 1983, des pannes informatiques et de fausses alertes satellites ont amené le monde au bord d'un conflit nucléaire à trois reprises, notamment lorsque l'officier soviétique Stanislav Petrov a correctement identifié une fausse alerte déclenchée par des systèmes d'alerte précoce automatisés.

L'article s'interroge sur la capacité des infrastructures modernes de défense et de prise de décision, de plus en plus dépendantes des microprocesseurs, des algorithmes et des simulations de données, à permettre une surveillance humaine similaire aujourd'hui. Alors que les promesses technologiques d'infaillibilité se multiplient, l'analyse met en garde contre une confiance absolue dans les systèmes automatisés, soulignant que les erreurs technologiques restent un risque critique dans les scénarios à enjeux élevés.

Sources : Corriere della Sera