La Ley de IA de la UE impone el marcado obligatorio de contenido y reglas sobre deepfakes en virtud del Artículo 50

El cambio va mucho más allá de añadir otra etiqueta de advertencia al contenido generado por IA. Bruselas intenta establecer reglas comunes para identificar medios sintéticos antes de que sea imposible distinguir el material auténtico del contenido generado por IA en línea.

La transparencia de la IA ya no es opcional

Hasta ahora, la mayoría de las empresas de IA decidían por sí mismas cuánta información querían proporcionar sobre el contenido generado por IA. Algunas introdujeron tecnologías de marcas de agua. Otras experimentaron con herramientas de procedencia o pequeñas etiquetas que indicaban que una imagen había sido creada por IA. No existía un enfoque único, y la participación dependía en gran medida de la política corporativa, no de una obligación legal.

Eso cambia con el Artículo 50.

El Código de Conducta sobre Transparencia de la Comisión Europea, publicado en junio, sigue siendo voluntario. Más de 180 organizaciones, incluida Google, lo han firmado porque ofrece una vía clara para cumplir los nuevos requisitos legales en toda la UE. Pero la ley en sí no es opcional. Las empresas que ignoren el Código deben demostrar que sus propios sistemas cumplen los mismos estándares legales. Si no lo hacen, los reguladores nacionales pueden imponer multas de hasta 15 millones de euros o el 3% de la facturación anual mundial.

Para los desarrolladores de IA, la transparencia se ha convertido en un asunto de cumplimiento normativo, no en un ejercicio de relaciones públicas.

Reglas distintas para desarrolladores y editores

Una característica importante del Artículo 50 es que no recae toda la responsabilidad sobre un solo lado de la industria. Los desarrolladores de sistemas de IA deben garantizar que el contenido sintético incluya información legible por máquina que indique su origen. El objetivo es facilitar a las plataformas y a los reguladores la detección automática de imágenes, vídeos, audios y textos generados por IA.

Los editores tienen una tarea distinta. Deben asegurarse de que los usuarios sepan cuándo están viendo material generado por IA sobre temas que afectan al interés público. Lo mismo se aplica a los deepfakes y a los sistemas interactivos de IA, que deben informar claramente a las personas de que se están comunicando con un software y no con otra persona.

La legislación también introduce requisitos de notificación para los sistemas de reconocimiento de emociones y de categorización biométrica, otorgando a las personas el derecho a saber cuándo se utilizan estas tecnologías.

En lugar de tratar la IA como un producto único, la UE ha repartido la responsabilidad a lo largo de toda la cadena, desde la empresa que desarrolla la tecnología hasta la organización que la presenta al público.

Crear un rastro digital

La parte más importante de las nuevas reglas podría ser algo que la mayoría de los usuarios nunca verán. En lugar de depender solo de etiquetas visibles, la UE quiere que el contenido generado por IA incluya metadatos legibles por máquina que el software pueda detectar automáticamente. En otras palabras, Bruselas intenta crear un registro digital que acompañe al material generado por IA adondequiera que vaya.

La idea es sencilla. Una etiqueta en una imagen puede recortarse o eliminarse. Los metadatos integrados en el archivo son mucho más difíciles de eliminar sin dejar rastros. Si este enfoque se adopta ampliamente, las plataformas en línea, los verificadores de datos y los reguladores podrán identificar contenido sintético mucho más rápido y a una escala mucho mayor.

Por eso tecnologías como SynthID de Google y el estándar de procedencia C2PA han cobrado cada vez más importancia. Están diseñadas para que el contenido digital sea trazable desde el momento en que se crea, en lugar de después de que ya se haya difundido por internet.

La ambición va más allá de ayudar a los usuarios a detectar imágenes falsas. La UE intenta construir una infraestructura técnica que permita verificar la propia información digital.

Las reglas de Europa se convierten en reglas globales

Aunque la Ley de IA es una ley europea, su impacto no se detendrá en las fronteras de la UE. Cualquier empresa cuyo contenido generado por IA llegue a usuarios de la Unión Europea debe cumplir el Artículo 50, sin importar dónde tenga su sede. Un desarrollador en Estados Unidos o Asia enfrenta las mismas obligaciones si sus productos están disponibles en el mercado europeo.

Este es otro ejemplo del llamado 'Efecto Bruselas'. Debido a que la UE representa uno de los mercados digitales más grandes del mundo, las empresas a menudo deciden que es más fácil aplicar estándares europeos en todas partes en lugar de mantener sistemas separados para diferentes regiones.

Eso hace que la Ley de IA tenga influencia mucho más allá de Europa. Incluso las empresas sin sede ni operaciones importantes dentro de la UE pueden tener que rediseñar sus productos para mantener el acceso a los clientes europeos.

Para muchas empresas tecnológicas, cumplir la Ley de IA probablemente se convierta en parte de su estrategia comercial global, no solo en un requisito legal europeo.

El cumplimiento no será igual de fácil

No todas las empresas enfrentarán el mismo desafío. Las grandes empresas tecnológicas han dedicado años a desarrollar sistemas de marcas de agua, herramientas de procedencia y equipos de cumplimiento. Muchas ya tenían los recursos técnicos necesarios para adaptar sus productos antes de que las reglas entraran en vigor.

Los desarrolladores más pequeños tienen una tarea mucho más difícil. Los proyectos de IA de código abierto, en particular, enfrentan un problema práctico. Una vez que sus modelos se publican, tienen muy poco control sobre cómo otras personas los modifican o distribuyen. Mantener marcas legibles por máquina adjuntas al contenido generado por IA durante todo ese proceso es mucho más difícil que para las empresas que operan plataformas comerciales cerradas.

Como resultado, el costo del cumplimiento podría recaer mucho más sobre las startups y los desarrolladores de código abierto que sobre los gigantes tecnológicos establecidos. Eso podría convertirse en una de las consecuencias menos visibles de la Ley de IA. Las reglas diseñadas para mejorar la transparencia también podrían dificultar que los actores más pequeños compitan con empresas que ya tienen el dinero, la experiencia legal y la infraestructura técnica necesarias para cumplir los nuevos requisitos.

La transparencia es solo parte del desafío

Pocas personas se opondrían a que el contenido generado por IA sea más fácil de identificar. El debate más importante es si el creciente número de etiquetas, avisos y estándares técnicos simplificará realmente la vida de los usuarios.

Incluso las empresas que apoyan las nuevas reglas han advertido sobre esto. Google, por ejemplo, firmó el Código de Conducta de la Comisión, pero también ha argumentado que demasiados requisitos superpuestos podrían confundir a los usuarios en lugar de ayudarlos. Diferentes sistemas de marcas de agua, múltiples etiquetas de advertencia y estándares técnicos variados podrían crear un mosaico difícil de navegar tanto para las empresas como para el público.

Bruselas ha aceptado ese riesgo. Su opinión es que un sistema de transparencia complicado sigue siendo mejor que permitir que el contenido generado por IA circule sin una forma fiable de identificar su origen. Ese razonamiento explica por qué la UE se ha centrado tanto en la procedencia y no solo en las etiquetas visibles. El objetivo es crear un sistema que funcione no solo para los usuarios individuales, sino también para las plataformas en línea, los reguladores y los verificadores de datos que intentan detectar contenido sintético a gran escala.

Una nueva etapa en la regulación de la IA

El Artículo 50 es otro paso en el despliegue gradual de la Ley de IA, más que una medida independiente. Las fases anteriores introdujeron restricciones a las prácticas de IA de alto riesgo y nuevas obligaciones para los desarrolladores de modelos de IA de propósito general. Ahora el foco se está desplazando hacia el contenido que producen esos sistemas.

Eso podría resultar ser uno de los cambios más significativos de toda la legislación. Durante años, el debate en torno a la IA se centró en lo que estos sistemas podían crear. Europa ahora se hace una pregunta distinta: ¿puede todo imagen, vídeo, clip de audio o texto generado por IA ser rastreado hasta su origen?