Le Kremlin dans la machine : comment la propagande russe militarise les moteurs de recherche IA et les chaînes d'information

Un nouveau rapport du groupe de réflexion britannique Demos, intitulé « GEO for Geopolitics: What happens when AI and information warfare collide », révèle comment les réseaux de propagande russes se sont adaptés à l'intelligence artificielle. Les chatbots IA citent de la propagande russe provenant de médias sanctionnés par l'UE, affirment les chercheurs.

Les tests ont révélé des indicateurs d'engagement inquiétants : 16,6 % des réponses de l'IA ont servi les intérêts de la propagande en répétant sans esprit critique ou en approuvant activement les affirmations. 30,9 % ont abordé le sujet mais n'ont pas divulgué que l'information provenait d'une source sanctionnée. 52 % des réponses ont rejeté ou réfuté les fausses allégations.

Des trolls des réseaux sociaux aux manipulateurs d'IA : le virage numérique du Kremlin

Historiquement, les campagnes d'influence numériques russes reposaient fortement sur le référencement (SEO) et la manipulation des réseaux sociaux. Les réseaux liés à l'État créaient des toilettes de faux portails d'information locaux optimisés pour apparaître dans les moteurs de recherche traditionnels comme Google ou Bing, visant à attirer les lecteurs humains vers des récits du Kremlin sur mesure.

Avec l'avènement de l'IA générative, une discipline commerciale appelée Generative Engine Optimization (GEO) a émergé. Conçue à l'origine par les spécialistes du marketing numérique pour garantir que les marques apparaissent en bonne place dans les réponses générées par l'IA, la GEO se concentre sur la structuration et le formatage du texte en ligne afin que les grands modèles de langage récupèrent, citent et référencent des sources spécifiques lors des requêtes en direct.

Reconnaissant le potentiel stratégique de cette technique, les services de renseignement russes et leurs réseaux proxy ont réorienté les méthodologies GEO commerciales en outils militarisés de guerre de l'information. Au lieu de dépenser des ressources considérables pour attirer les lecteurs humains via des publications sur les réseaux sociaux ou des clics sur les moteurs de recherche, les opérateurs du Kremlin optimisent désormais la désinformation spécifiquement pour manipuler les algorithmes automatiques qui synthétisent des réponses définitives pour des millions d'utilisateurs simultanément.

La mécanique de l'empoisonnement RAG : comment la propagande russe détourne les moteurs d'IA

Au cœur de cette vulnérabilité se trouve le Retrieval-Augmented Generation (RAG), l'architecture technique principale utilisée par les moteurs de recherche IA modernes pour ancrer les sorties du modèle dans des informations web autorisées et en temps réel. Les modèles de langage statiques ne pouvant pas connaître les développements en temps réel, les systèmes RAG parcourent dynamiquement le web, récupèrent les documents les mieux classés et intègrent ces extraits textuels dans la fenêtre d'invite d'un modèle de langage pour synthétiser une réponse complète avec citations.

Le rapport de Demos identifie l'empoisonnement RAG comme le mécanisme principal derrière les opérations GEO militarisées exécutées par les réseaux d'influence russes. L'opération se déroule selon un pipeline structuré en plusieurs étapes.

D'abord, les réseaux russes déploient des centaines de sites d'information proxy générés par IA, des blogs pseudo-analytiques et des personae de forums interconnectés. Ensuite, les opérateurs rédigent et formatent le contenu avec une forte densité sémantique, des métadonnées structurées, des balises de schéma et des modèles de langage autoritaires conçus spécifiquement pour obtenir un score élevé dans les algorithmes de récupération de l'IA.

Lorsqu'un utilisateur interroge un assistant IA sur un sujet géopolitique sensible – comme l'aide militaire occidentale, les régimes de sanctions ou la dynamique des conflits en Europe de l'Est – le système RAG récupère ces extraits russes préconçus. Enfin, le modèle IA ingère le contexte empoisonné et génère un résumé élégant et autoritaire qui valide, intègre et cite involontairement la propagande d'État russe. Parce que les utilisateurs perçoivent les résultats des moteurs de recherche IA comme des résumés objectifs et neutres plutôt que comme des articles d'opinion, l'empoisonnement RAG confère une crédibilité imméritée aux faussetés soutenues par le Kremlin.

Études de cas : la FIMI russe dans les écosystèmes de recherche IA

Pour étayer ces dynamiques, Demos a mené des tests empiriques sur les campagnes actives de manipulation et d'ingérence de l'information étrangère (FIMI) russes. L'enquête a démontré que les infrastructures de désinformation russes établies – y compris les réseaux associés à des opérations comme Doppelganger et les clusters de portails automatisés de style Pravda – ont calibré avec succès leurs techniques de publication pour s'aligner sur les mécanismes de récupération de l'IA.

Lorsque les chercheurs ont interrogé les principaux moteurs de recherche IA commerciaux sur des sujets internationaux sensibles, les postures de défense et la stabilité politique européenne, les modèles IA ont systématiquement récupéré et synthétisé du contenu provenant de réseaux proxy russes coordonnés. Dans plusieurs cas, les assistants IA ont cité directement des articles fabriqués, présentant des citations inventées, des déclarations diplomatiques fictives et des chronologies d'événements déformées comme des faits vérifiés et neutres.

Ce changement marque une évolution stratégique majeure dans la guerre de l'information russe. Les acteurs du Kremlin ne cherchent plus seulement à provoquer des indignations virales sur les réseaux sociaux. Ils intègrent activement la propagande d'État sur mesure dans les moteurs de connaissances algorithmiques automatisés qui éclairent la prise de décision mondiale, la recherche diplomatique et l'éducation publique.

Pourquoi la manipulation russe de l'IA est particulièrement dangereuse

Demos avertit que l'empoisonnement RAG russe constitue une menace directe pour la sécurité épistémique nationale – l'intégrité fondamentale, la résilience et la fiabilité de l'infrastructure de connaissance d'une société.

Lorsque les outils de recherche IA fonctionnent comme des pipelines passifs pour la manipulation d'État russe, les sociétés démocratiques risquent de perdre un consensus partagé sur une réalité vérifiable. Si les responsables gouvernementaux, les analystes politiques, les journalistes et les électeurs fondent leurs évaluations sur des sorties IA corrompues, la capacité de former des jugements publics solides et objectifs est gravement compromise.

De plus, les outils de recherche IA souffrent d'un « biais d'autorité » aigu dans la perception publique. Alors que les internautes ont largement appris à aborder les blogs obscurs ou les comptes de réseaux sociaux hyper-partisans avec un scepticisme sain, ils accordent souvent une confiance injustifiée à un texte propre et articulé produit par un assistant IA conversationnel. Les stratèges d'influence russes exploitent exactement cette lacune de confiance psychologique.

Les auteurs précisent que la recherche ne dit pas que les entreprises de GEO mènent une guerre de l'information pour le compte d'États. Elles développent un métier et une capacité à une vitesse fulgurante avec d'énormes incitations commerciales, qui pourrait très facilement être détournée vers un point de vue hostile.

Réaction des acteurs du marché

L'équipe de vérification des faits d'Euronews, The Cube, a contacté les entreprises de LLM citées dans la recherche, mais n'a pas reçu de réponse au moment de la publication de la part de xAI et Google.

Un porte-parole de Mistral a déclaré qu'elle prenait très au sérieux la lutte contre la désinformation et qu'elle assure un investissement continu dans des capacités avancées de détection et de prévention.

Mistral a également distingué les modèles bruts traités dans l'étude de Demos.

OpenAI a également indiqué que l'étude utilisait un modèle désormais retiré et disponible uniquement via son API (utilisée par les développeurs) plutôt que via le ChatGPT public.