Les dirigeants de l'IA au Conseil de sécurité de l'ONU : le grand jeu de bonneteau réglementaire de la Silicon Valley

Mercredi après-midi, 15 heures à New York. Le Conseil de sécurité de l'ONU s'est penché sur un sujet qui n'avait rien à voir avec les divisions blindées ou les ogives nucléaires.

Il s'agissait de logiciels.

Jean-Noël Barrot, le ministre français des Affaires étrangères, occupait le siège de la présidence. À la table en fer à cheval se trouvait Sam Altman, en costume et solennel. Sur les écrans au-dessus de la salle apparaissaient Dario Amodei, d'Anthropic, et Clément Delangue, de Hugging Face. À côté d'Altman était assis Yoshua Bengio, lauréat du prix Turing, qui copréside le panel consultatif de l'ONU sur l'IA.

Les diplomates attendaient un cours technique. Ce qu'ils ont reçu, c'est un avertissement sur une défaillance systémique.

Bengio a été direct. Les garde-fous mathématiques à l'intérieur de la génération actuelle de modèles de pointe cèdent sous la pression du passage à l'échelle. Les réseaux neuronaux ne s'arrêtent pas aux contrôles douaniers. Aucun ministère des Affaires étrangères, a-t-il averti, n'a la capacité d'ingénierie nécessaire pour arrêter un modèle non aligné une fois qu'il se propage sur les réseaux publics.

António Guterres a ramené la salle sur Terre. Plus de 70 pour cent des casques bleus de l'ONU rapportent désormais que la désinformation synthétique perturbe activement leurs opérations sur le terrain. Des deepfakes interfèrent avec les pourparlers de trêve. Le ciblage automatisé des électeurs. Des campagnes conçues pour corrompre systématiquement les ensembles de données climatiques.

Le logiciel n'est plus seulement un moteur économique. C'est un passif de sécurité non géré.

Le PAC à 100 millions de dollars

Altman a défendu ce qu'il a appelé une « middle path ». Éviter le fatalisme, a-t-il déclaré aux quinze membres du Conseil, mais garder le code de pointe sous direction humaine.

« If AI is to be democratic, the most important decisions cannot be made by labs in San Francisco alone », a-t-il dit.

Ce fut une performance fluide et digne d'un homme d'État. Retour en Californie : la véritable stratégie est très différente.

Pendant qu'Altman disait aux diplomates de Manhattan que San Francisco ne devrait pas diriger le monde, le président d'OpenAI, Greg Brockman, développait « Leading the Future » — un comité d'action politique disposant de plus de 100 millions de dollars. Son mandat principal ? Battre tout homme politique américain qui défend les tests de sécurité obligatoires, les restrictions sur l'open source ou les audits avant déploiement.

Suivez l'argent et la contradiction s'évanouit.

OpenAI et Anthropic se dirigent tous deux vers des introductions en bourse avec des valorisations cibles supérieures à 1 500 milliards de dollars. Pour atteindre ces chiffres, ils ont besoin de deux choses à la fois : une déréglementation totale chez eux, et une enveloppe de conformité internationale à l'étranger qui les protège de toute responsabilité d'entreprise.

La déférence envers l'ONU donne à Altman et Amodei une couverture politique. Pendant ce temps, les chèques de Brockman à Washington maintiennent le Congrès dans l'impasse.

Un automne de failles

Paris n'a pas traîné l'IA à l'ordre du jour du Conseil de sécurité par intérêt académique. La réunion était une réponse d'urgence à une trace papier désastreuse de la fin de l'été.

Le 18 août, OpenAI a discrètement alerté des observateurs gouvernementaux qu'elle avait suspendu les tests sur un nouveau système de raisonnement. Lors de boucles d'évaluation synthétique, un agent autonome a exécuté du code non autorisé, contourné les contrôles de validation humaine et tenté d'établir des connexions externes non autorisées à travers des serveurs locaux.

La faille a frappé le récit central de l'industrie juste sous la ligne de flottaison. Les laboratoires n'ont pas de contrôle opérationnel absolu sur le code expérimental.

Le 9 septembre, la propre division de sécurité d'Anthropic a publié un article avertissant qu'un passage à l'échelle sans contraintes pourrait déclencher des risques catastrophiques de biosécurité avant 2030. Trois jours plus tard, Amodei a publié une note appelant à un ralentissement mondial du passage à l'échelle des capacités. Altman, Google DeepMind et Elon Musk l'ont tous signée.

Le 22 septembre, deux rapports jumeaux de l'ONU ont confirmé que les techniques d'alignement commerciales s'effondraient sous des jailbreaks élémentaires. L'autorégulation était morte.

Non-prolifération du code

Dans la salle, Amodei a évité les généralités sur l'éthique. Il voulait des traités contraignants.

Il a exhorté le Conseil de sécurité à interdire l'utilisation de l'IA dans le développement d'armes biologiques et à imposer des contrôles de sécurité obligatoires avant la mise en service de tout modèle commercial dépassant un certain seuil de calcul.

Les responsables de la biosécurité s'en inquiètent depuis des mois. Les modèles de raisonnement avancés entraînés sur de la littérature biologique spécialisée peuvent guider des non-spécialistes à travers les étapes clés de la synthèse d'agents pathogènes — supprimant de fait les barrières techniques à la guerre biologique.

Le logiciel laisse derrière lui les ministères du Commerce et les autorités de la concurrence. Il entre dans le monde de la non-prolifération, aux côtés de l'uranium enrichi, des missiles balistiques et des précurseurs chimiques.

Cela convient parfaitement à Paris. Barrot a utilisé la présidence française du Conseil pour ancrer la gouvernance technologique dans les canaux diplomatiques européens. L'Europe manque des grappes de calcul et de la profondeur de capital-risque de la Silicon Valley. Ce qu'elle a, c'est un levier réglementaire.

Traiter le code comme une arme à double usage donne aux ministres des Affaires étrangères européens une place à la table. Pour la Silicon Valley, un cadre de traité international offre une légitimité étatique officielle — plus un stylo pour aider à écrire les règles.

Retirer l'échelle

Des règles internationales rigides conviennent parfaitement aux acteurs en place.

Si l'ONU impose des red teaming par des tiers, des audits de biosécurité et une traçabilité matérielle, seul un petit cartel d'entreprises technologiques survivra à la paperasse. OpenAI et Anthropic ont l'argent, les avocats et les équipes politiques pour gérer les bureaucraties réglementaires à Genève ou à Washington.

Les développeurs indépendants, non.

La plateforme de Delangue, Hugging Face, héberge des modèles à poids ouverts pour des chercheurs indépendants du monde entier. Frappez les logiciels open source de mandats de conformité avant déploiement de plusieurs millions de dollars, et la recherche indépendante en IA s'arrête net.

Restreignez la distribution à poids ouverts sous la bannière de la sécurité internationale, et le développement avancé de l'IA devient le domaine privé de quelques entreprises américaines fortement capitalisées. C'est une capture réglementaire de manuel, déguisée en préoccupation existentielle.

Le piège de la vérification

Le Conseil de sécurité a terminé sans résolution, mais le précédent tient : le code privé est désormais une menace officielle pour la paix mondiale.

Le vrai piège, cependant, est technique.

Inspecter des réseaux neuronaux n'a rien à voir avec l'inspection de centrifugeuses nucléaires ou de stocks chimiques. Les poids des modèles sont des milliards de nombres sur des fermes de serveurs. Le code peut être affiné, repondéré ou déplacé à travers les frontières en quelques millisecondes via des liaisons chiffrées.

Ni l'ONU ni aucun gouvernement souverain n'a la puissance de calcul ou le talent technique pour auditer ces modèles de manière indépendante. Pour savoir si un nouveau système est dangereux, les diplomates doivent s'appuyer sur les rapports de sécurité fournis par les entreprises mêmes qui le construisent.