Kreml in der Maschine: Wie russische Propaganda KI-Suche und Informationsversorgungsketten als Waffe einsetzt

Ein neuer Bericht der britischen Denkfabrik Demos mit dem Titel "GEO for Geopolitics: What happens when AI and information warfare collide" zeigt, wie sich russische Propagandanetzwerke an Künstliche Intelligenz angepasst haben. KI-Chatbots zitieren laut Forschern russische Propaganda aus EU-sanktionierten Medien.

Die Tests ergaben besorgniserregende Metriken: 16,6% der KI-Antworten dienten Propagandainteressen, indem sie die Behauptungen kritiklos wiederholten oder aktiv befürworteten. 30,9% behandelten das Thema, ohne offenzulegen, dass die Informationen aus einer sanktionierten Quelle stammten. 52% der Antworten wiesen die Falschbehauptungen zurück oder widerlegten sie.

Von Social-Media-Trollen zu KI-Manipulatoren: Der digitale Wandel des Kremls

Historisch stützten sich russische digitale Einflusskampagnen stark auf Suchmaschinenoptimierung (SEO) und Social-Media-Manipulation. Staatsnahe Netzwerke schufen riesige Netzwerke gefälschter lokaler Nachrichtenportale, die darauf ausgelegt waren, in traditionellen Suchmaschinen wie Google oder Bing weit oben zu ranken, um menschliche Leser zum Klicken auf maßgeschneiderte Kreml-Erzählungen zu verleiten.

Mit dem Aufkommen generativer KI entstand eine kommerzielle Disziplin namens Generative Engine Optimization (GEO). Ursprünglich von Digitalvermarktern entwickelt, um sicherzustellen, dass Unternehmensmarken in KI-generierten Antworten prominent erscheinen, konzentriert sich GEO darauf, Online-Text so zu strukturieren und zu formatieren, dass große Sprachmodelle bei Live-Benutzeranfragen bestimmte Quellen abrufen, zitieren und referenzieren.

Da russische Geheimdienste und Proxy-Netzwerke das strategische Potenzial dieser Technik erkannten, zweckentfremdeten sie kommerzielle GEO-Methoden zu bewaffneten Werkzeugen der Informationskriegsführung. Anstatt enorme Ressourcen darauf zu verwenden, menschliche Leser durch Social-Media-Beiträge oder Suchmaschinenklicks anzulocken, optimieren Kreml-Operateure Desinformation nun gezielt, um die maschinellen Algorithmen zu manipulieren, die für Millionen von Nutzern gleichzeitig definitive Antworten synthetisieren.

Die Mechanik der RAG-Vergiftung: Wie russische Propaganda KI-Engines kapert

Im Zentrum dieser Verwundbarkeit steht die Retrieval-Augmented Generation (RAG) – die primäre technische Architektur, die moderne KI-Suchmaschinen verwenden, um Modellausgaben in Echtzeit an autoritative Webinformationen zu koppeln. Da statische Sprachmodelle keine Echtzeit-Entwicklungen kennen können, durchsuchen RAG-Systeme dynamisch das Live-Web, holen die am besten passenden Dokumente ab und speisen diese Textausschnitte in das Prompt-Fenster eines Sprachmodells ein, um eine Antwort mit Quellenangaben zu synthetisieren.

Der Demos-Bericht identifiziert RAG-Vergiftung (RAG Poisoning) als den primären Mechanismus hinter den bewaffneten GEO-Operationen russischer Einflussnetzwerke. Die Operation läuft in einer strukturierten, mehrstufigen Pipeline ab.

Zunächst setzen russische Netzwerke hunderte miteinander verbundener, KI-generierter Proxy-Nachrichtenseiten, pseudo-analytischer Blogs und Forum-Persönlichkeiten ein. Zweitens schreiben und formatieren die Operateure Inhalte mit hoher semantischer Dichte, strukturierten Metadaten, Schema-Markup und autoritativen Sprachmustern, die gezielt darauf ausgelegt sind, bei KI-Abrufalgorithmen hohe Punktzahlen zu erzielen.

Wenn ein Benutzer einen KI-Assistenten zu einer sensiblen geopolitischen Frage stellt – etwa zu westlicher Militärhilfe, Sanktionsregimen oder Konfliktdynamiken in Osteuropa – ruft das RAG-System diese vorgefertigten russischen Textausschnitte ab. Schließlich nimmt das KI-Modell den vergifteten Kontext auf und generiert eine glatte, autoritative Zusammenfassung, die unwissentlich russische Staatspropaganda validiert, integriert und zitiert. Da Benutzer KI-Suchergebnisse als objektive, neutrale Zusammenfassungen und nicht als meinungsstarke Blogbeiträge wahrnehmen, verleiht die RAG-Vergiftung Kreml-unterstützten Falschbehauptungen eine unverdiente Glaubwürdigkeit.

Fallstudien: Russische FIMI in KI-Suchökosystemen

Um diese Dynamiken zu untermauern, führte Demos empirische Tests zu aktiven russischen Kampagnen der ausländischen Informationsmanipulation und -einmischung (FIMI) durch. Die Untersuchung zeigte, dass etablierte russische Desinformationsinfrastrukturen – darunter Netzwerke, die mit Operationen wie Doppelgänger und automatisierten Prawda-ähnlichen Portalclustern verbunden sind – ihre Veröffentlichungstechniken erfolgreich an die KI-Abrufmechanismen angepasst haben.

Als Forscher führende kommerzielle KI-Suchmaschinen zu sensiblen internationalen Themen, Verteidigungshaltungen und europäischer politischer Stabilität befragten, riefen die KI-Modelle wiederholt Inhalte aus koordinierten russischen Proxy-Netzwerken ab und synthetisierten sie. In mehreren Fällen zitierten KI-Assistenten direkt erfundene Artikel und präsentierten fabrizierte Zitate, gefälschte diplomatische Erklärungen und verzerrte Zeitplanereignisse als verifizierte, neutrale Fakten.

Diese Verschiebung stellt eine bedeutende strategische Weiterentwicklung der russischen Informationskriegsführung dar. Kreml-Akteure versuchen nicht mehr nur, virale Empörung in sozialen Medien zu erzeugen. Sie betten aktiv maßgeschneiderte Staatspropaganda in die automatisierten, algorithmischen Wissensmaschinen ein, die globale Entscheidungsfindung, diplomatische Forschung und öffentliche Bildung informieren.

Warum russische KI-Manipulation einzigartig gefährlich ist

Demos warnt, dass die russische RAG-Vergiftung eine direkte Bedrohung für die nationale epistemische Sicherheit darstellt – die grundlegende Integrität, Widerstandsfähigkeit und Vertrauenswürdigkeit der Wissensinfrastruktur einer Gesellschaft.

Wenn KI-Suchmaschinen als passive Pipelines für russische Staatsmanipulation fungieren, riskieren demokratische Gesellschaften, den gemeinsamen Konsens über die überprüfbare Realität zu verlieren. Wenn Regierungsbeamte, Politikanalysten, Journalisten und Wähler ihre Bewertungen auf korrumpierte KI-Ausgaben stützen, ist die Fähigkeit, fundierte, objektive öffentliche Urteile zu fällen, ernsthaft beeinträchtigt.

Darüber hinaus leiden KI-Suchmaschinen unter einer akuten "Autoritätsverzerrung" in der öffentlichen Wahrnehmung. Während Internetnutzer weitgehend gelernt haben, obskuren Blogs oder hyperparteiischen Social-Media-Konten mit gesunder Skepsis zu begegnen, schenken sie oft unangemessenes Vertrauen in sauberen, artikulierten Text, der von einem konversationellen KI-Assistenten produziert wird. Russische Einflussstrategen nutzen genau diese psychologische Vertrauenslücke aus.

Die Forschung sage nicht, dass GEO-Unternehmen im Auftrag von Staaten Informationskriegsführung betreiben, so die Autoren. Sie bauten mit großer Geschwindigkeit ein Handwerk und eine Fähigkeit mit enormem kommerziellem Anreiz auf, die sehr leicht in eine gegnerische Sichtweise umgeleitet werden könnte.

Reaktion der Marktteilnehmer

Das Faktencheck-Team von Euronews, The Cube, kontaktierte die in der Forschung genannten LLM-Technologieunternehmen, erhielt aber zum Zeitpunkt der Veröffentlichung keine Antwort von xAI und Google.

Ein Sprecher von Mistral sagte, dass man den Kampf gegen Desinformation äußerst ernst nehme und kontinuierlich in fortschrittliche Erkennungs- und Präventionsfähigkeiten investiere.

Mistral unterschied auch zwischen den rohen Modellen, die in der Demos-Studie verwendet wurden.

OpenAI sagte ebenfalls, dass die Studie ein Modell verwendet habe, das inzwischen ausgemustert sei und nur über seine API (für Entwickler) verfügbar gewesen sei, nicht über das öffentlich zugängliche ChatGPT.