Kremlin en la máquina: Cómo la propaganda rusa weaponiza la búsqueda con IA y las cadenas de suministro de información

Un nuevo informe del think tank británico Demos, titulado "GEO for Geopolitics: What happens when AI and information warfare collide", revela cómo las redes de propaganda rusas se han adaptado a la inteligencia artificial. Los chatbots de IA están citando propaganda rusa de medios sancionados por la UE, según los investigadores.

Las pruebas revelaron preocupantes métricas de engagement: el 16,6% de las respuestas de IA sirvieron a intereses propagandísticos al repetir sin crítica o respaldar activamente las afirmaciones. El 30,9% abordó el tema pero no reveló que la información provenía de una fuente sancionada. El 52% de las respuestas rechazó o desmintió las afirmaciones falsas.

De los trolls de redes sociales a los manipuladores de IA: el giro digital del Kremlin

Históricamente, las campañas de influencia digital rusas dependían en gran medida de la optimización para motores de búsqueda junto con la manipulación de redes sociales. Las redes vinculadas al Estado creaban extensas telarañas de portales de noticias locales falsos optimizados para posicionarse en motores tradicionales como Google o Bing, con el objetivo de atraer a lectores humanos a hacer clic en narrativas del Kremlin hechas a medida.

Con la llegada de la IA Generativa, surgió una disciplina comercial conocida como Optimización para Motores Generativos (GEO, por sus siglas en inglés). Diseñada originalmente por especialistas en marketing digital para garantizar que las marcas corporativas aparezcan prominentemente en las respuestas generadas por IA, la GEO se centra en estructurar y formatear el texto en línea para que los modelos de lenguaje grandes recuperen, citen y referencien fuentes específicas durante consultas de usuarios en vivo.

Reconociendo el potencial estratégico de esta técnica, los servicios de inteligencia rusos y las redes proxy reutilizaron las metodologías GEO comerciales en herramientas weaponizadas para la guerra de la información. En lugar de gastar vastos recursos para atraer a lectores humanos a través de publicaciones en redes sociales o clics en motores de búsqueda, los operadores del Kremlin ahora optimizan la desinformación específicamente para manipular los algoritmos de máquina que sintetizan respuestas definitivas para millones de usuarios simultáneamente.

La mecánica del envenenamiento RAG: cómo la propaganda rusa secuestra los motores de IA

En el núcleo de esta vulnerabilidad se encuentra la Generación Aumentada por Recuperación (RAG, por sus siglas en inglés), la arquitectura técnica principal utilizada por los motores de búsqueda de IA modernos para fundamentar las salidas del modelo en información web autorizada y en tiempo real. Debido a que los modelos de lenguaje estáticos no pueden conocer los desarrollos en tiempo real, los sistemas RAG rastrean dinámicamente la web en vivo, recuperan los documentos con mejor coincidencia y alimentan esos fragmentos de texto en la ventana de indicaciones de un modelo de lenguaje para sintetizar una respuesta completa con citas.

El informe de Demos identifica el Envenenamiento RAG como el mecanismo principal detrás de las operaciones GEO weaponizadas ejecutadas por las redes de influencia rusas. La operación se desarrolla a través de un proceso estructurado de múltiples etapas.

Primero, las redes rusas despliegan cientos de sitios de noticias proxy generados por IA interconectados, blogs pseudoanalíticos y personajes de foros. Segundo, los operadores escriben y formatean contenido con alta densidad semántica, metadatos estructurados, marcado de esquema y patrones de lenguaje autoritarios diseñados específicamente para puntuar alto en los algoritmos de recuperación de IA.

Cuando un usuario pregunta a un asistente de IA sobre un tema geopolítico sensible —como la ayuda militar occidental, los regímenes de sanciones o las dinámicas de conflicto en Europa del Este— el sistema RAG recupera estos fragmentos rusos previamente diseñados. Finalmente, el modelo de IA ingiere el contexto envenenado y genera un resumen elegante y autoritario que valida, integra y cita inadvertidamente la propaganda estatal rusa. Debido a que los usuarios perciben las salidas de búsqueda de IA como resúmenes objetivos y neutrales, en lugar de publicaciones de opinión, el envenenamiento RAG confiere una capa inmerecida de credibilidad a las falsedades respaldadas por el Kremlin.

Estudios de caso: FIMI ruso en ecosistemas de búsqueda de IA

Para corroborar estas dinámicas, Demos realizó pruebas empíricas sobre campañas activas de Manipulación e Interferencia de Información Extranjera (FIMI) rusas. La investigación demostró que las infraestructuras de desinformación rusas establecidas —incluyendo redes asociadas con operaciones como Doppelganger y agrupaciones automatizadas de portales estilo Pravda— han calibrado exitosamente sus técnicas de publicación para alinearse con los mecanismos de recuperación de IA.

Cuando los investigadores consultaron a los principales motores de búsqueda de IA comerciales sobre temas internacionales sensibles, posturas de defensa y estabilidad política europea, los modelos de IA recuperaron y sintetizaron repetidamente contenido de redes proxy rusas coordinadas. En varios casos, los asistentes de IA citaron artículos fabricados directamente, presentando citas falsas, declaraciones diplomáticas inventadas y eventos de línea de tiempo distorsionados como hechos verificados y neutrales.

Este cambio marca una evolución estratégica importante en la guerra de la información rusa. Los actores del Kremlin ya no buscan meramente generar indignación viral en las redes sociales. Están incrustando activamente propaganda estatal hecha a medida en los motores de conocimiento algorítmicos y automatizados que informan la toma de decisiones global, la investigación diplomática y la educación pública.

Por qué la manipulación rusa de IA es singularmente peligrosa

Demos advierte que el envenenamiento RAG ruso representa una amenaza directa a la seguridad epistémica nacional —la integridad fundamental, la resiliencia y la confiabilidad de la infraestructura de conocimiento de una sociedad.

Cuando las herramientas de búsqueda de IA funcionan como tuberías pasivas para la manipulación estatal rusa, las sociedades democráticas corren el riesgo de perder un consenso compartido sobre la realidad verificable. Si funcionarios gubernamentales, analistas políticos, periodistas y votantes basan sus evaluaciones en salidas de IA corruptas, la capacidad para formar juicios públicos sólidos y objetivos se ve gravemente comprometida.

Además, las herramientas de búsqueda de IA sufren un agudo "sesgo de autoridad" en la percepción pública. Mientras que los usuarios de internet han aprendido en gran medida a abordar blogs oscuros o cuentas de redes sociales hiperpartidistas con escepticismo saludable, frecuentemente extienden una confianza injustificada a textos limpios y articulados producidos por un asistente de IA conversacional. Los estrategas de influencia rusos explotan esta brecha de confianza psicológica exacta.

La investigación no dice que las empresas de GEO estén llevando a cabo guerra de información en nombre de estados, dijeron los autores. Están construyendo un oficio y una capacidad a gran velocidad con un enorme incentivo comercial, que podría desviarse muy fácilmente hacia una visión adversaria.

Reacción de los actores del mercado

El equipo de verificación de hechos de Euronews, The Cube, contactó a las empresas de tecnología LLM citadas en la investigación, pero no recibió respuesta al momento de la publicación de xAI y Google.

Un portavoz de Mistral dijo que se toma muy en serio la lucha contra la desinformación y que asegura una inversión continua en capacidades avanzadas de detección y prevención.

Mistral también distinguió los modelos sin procesar manejados en el estudio de Demos.

OpenAI también dijo que el estudio utilizó un modelo que ahora ha sido retirado y que solo estaba disponible a través de su API (utilizada por desarrolladores) en lugar del ChatGPT disponible públicamente.