L'Europe appose une étiquette sur la réalité artificielle

L'Union européenne est entrée dans une nouvelle phase de sa tentative de contrôler les risques informationnels créés par l'intelligence artificielle générative. Depuis le 2 août, de nouvelles obligations de transparence au titre de la loi européenne sur l'IA exigent des entreprises qu'elles divulguent lorsque les personnes interagissent avec l'IA et qu'elles identifient certains contenus générés ou manipulés par l'IA, y compris les deepfakes.

Ces règles visent à résoudre un problème qui devient de plus en plus difficile à résoudre par la seule vérification des faits traditionnelle : les contenus synthétiques peuvent désormais être produits à une échelle énorme, adaptés à des publics spécifiques et distribués plus rapidement que les institutions ne peuvent les vérifier. La Commission européenne soutient que la transparence devient donc une condition préalable au maintien de la confiance dans l'environnement informationnel.

Mais la nouvelle approche de l'Europe soulève une question plus large. Si l'on dit aux gens que quelque chose est artificiel, deviendront-ils réellement meilleurs pour reconnaître la manipulation – ou les étiquettes finiront-elles par devenir un bruit visuel de plus sur un internet déjà saturé d'avertissements, de badges et de mentions légales ?

L'UE cible les faux les plus convaincants

L'article 50 de la loi sur l'IA se concentre particulièrement sur les contenus qui pourraient vraisemblablement être pris pour la réalité. Les fournisseurs de systèmes d'IA doivent rendre les contenus générés ou manipulés techniquement détectables, tandis que ceux qui déploient ces systèmes doivent divulguer lorsqu'ils produisent des deepfakes.

Les règles couvrent également les textes générés par l'IA publiés pour informer le public sur des sujets d'intérêt public, bien qu'une exception importante s'applique lorsque ces documents ont fait l'objet d'un examen humain ou d'un contrôle éditorial et qu'une personne ou une organisation assume la responsabilité éditoriale de leur publication. Les œuvres artistiques, créatives, satiriques et fictives sont également traitées différemment, avec des exigences de transparence conçues pour ne pas interférer avec leur présentation.

Cette distinction est significative pour le secteur des médias en Europe. La législation ne déclare pas simplement que chaque article de journalisme assisté par l'IA doit porter un avertissement. Elle tente plutôt de faire la distinction entre l'IA en tant qu'outil de production et l'IA en tant qu'origine de contenus susceptibles de tromper le public.

Cette distinction deviendra de plus en plus importante à mesure que les salles de rédaction intégreront l'IA générative dans la recherche, la traduction, la transcription, la production d'images et le montage.

L'étiquetage n'est utile que si son infrastructure est solide

La solution de l'UE dépend fortement de marqueurs techniques capables de survivre au déplacement des contenus entre les plateformes.

Le cadre de la Commission prévoit des informations lisibles par machine permettant de détecter les contenus générés ou manipulés par l'IA, ainsi qu'une divulgation claire pour les utilisateurs. L'UE a également élaboré un cadre de mise en œuvre à travers son code de bonnes pratiques sur la transparence des contenus générés par l'IA.

Le problème est que le contenu numérique reste rarement là où il a été créé à l'origine.

Une vidéo générée par l'IA peut être téléchargée, recadrée, réencodée, republiée et intégrée sur une autre plateforme en quelques minutes. Les captures d'écran peuvent supprimer complètement les informations contextuelles. Une image synthétique peut circuler sans l'interface sur laquelle sa divulgation originale apparaissait.

Cela crée une faiblesse fondamentale dans tout régime d'étiquetage : une étiquette apposée sur un contenu au moment de sa création ne reste pas nécessairement visible lorsque ce contenu entre dans l'écosystème informationnel plus large.

L'UE tente donc de construire quelque chose de plus ambitieux qu'un système d'avertissement. Elle essaie en réalité de créer une couche de provenance pour les médias synthétiques – un moyen de rendre l'origine du contenu numérique traçable même lorsqu'il se déplace à travers les plateformes.

L'Europe réglemente la confiance, pas seulement la technologie

La portée politique de ces règles va au-delà des deepfakes.

Les médias générés par l'IA sont de plus en plus capables de fabriquer des déclarations politiques apparemment authentiques, des événements inventés et des preuves synthétiques. Le danger ne se limite pas aux escroqueries individuelles ou à la désinformation virale. Pendant les élections, les conflits et les grandes crises politiques, des contenus fabriqués peuvent être produits spécifiquement pour exploiter l'incertitude et renforcer les croyances existantes.

La Commission encadre explicitement les règles de transparence autour de la réduction de la tromperie et de la manipulation et de la protection de l'intégrité de l'environnement informationnel européen.

Cela fait de la loi sur l'IA une partie d'une stratégie réglementaire européenne beaucoup plus large. L'UE traite de plus en plus l'environnement informationnel numérique comme une infrastructure nécessitant des garde-fous, plutôt que comme un espace où les plateformes et les utilisateurs peuvent simplement être laissés à gérer les risques eux-mêmes.

L'approche reflète également une reconnaissance croissante du fait que le problème de l'IA générative n'est pas nécessairement que des contenus synthétiques existent. Le problème est que les gens peuvent être incapables de déterminer si ce qu'ils voient a été généré, manipulé ou enregistré dans le monde physique.

L'étiquette ne vaincra peut-être pas la tromperie

Il existe cependant un risque que la transparence crée un faux sentiment de sécurité.

Une étiquette peut dire à une personne qu'un contenu a été généré par l'IA. Elle ne peut pas lui dire si le contenu est faux, malveillant, satirique, politiquement motivé ou inoffensif. Une image synthétique d'un événement fictif et une vidéo fabriquée destinée à influencer une élection pourraient toutes deux porter une divulgation d'IA tout en posant des risques radicalement différents.

Il y a aussi la question de savoir si les gens y prêteront attention.

Des recherches récentes sur la divulgation de l'IA suggèrent que le simple fait d'informer les utilisateurs qu'ils interagissent avec un système d'IA ne réduit pas nécessairement son pouvoir de persuasion. Dans une expérience récente impliquant 1 500 adultes britanniques, la divulgation qu'un chatbot était alimenté par l'IA a eu peu d'effet sur sa capacité à modifier les attitudes, tandis que des informations supplémentaires sur l'intention persuasive du système ont considérablement réduit son influence.

Cette constatation pointe vers une limitation plus large de l'approche européenne. Savoir que quelque chose est artificiel n'équivaut pas nécessairement à comprendre ce que le système artificiel essaie d'accomplir.

La prochaine bataille portera sur la provenance

Les règles de l'UE vont probablement pousser l'industrie technologique vers un système plus standardisé pour identifier les médias synthétiques.

Certaines entreprises répondent déjà. Anthropic, par exemple, a introduit des filigranes lisibles par machine pour les textes et fichiers générés par ses modèles Claude, citant la nécessité de répondre aux exigences de transparence européennes. L'entreprise affirme que cette approche vise à rendre les contenus générés par l'IA plus faciles à identifier au-delà de l'interface d'origine.

Cela pourrait progressivement produire une nouvelle attente pour le contenu numérique : non plus simplement qu'est-ce que c'est ?, mais d'où cela vient-il ?

Cela représenterait un changement significatif dans l'architecture de l'internet. Pendant des décennies, l'information numérique a été largement conçue pour être copiée sans transporter d'informations fiables sur ses origines. L'IA générative rend ce modèle de plus en plus problématique car le coût de production de contenus synthétiques convaincants s'est effondré.

L'Europe tente maintenant d'inverser cette tendance en faisant de la provenance une partie de l'environnement réglementaire.

L'Europe teste si la transparence peut survivre à l'ère de l'IA

Le succès immédiat des règles dépendra moins de la capacité des entreprises à apposer des étiquettes sur les contenus générés par l'IA que de la question de savoir si ces étiquettes restent significatives une fois que le contenu commence à circuler en dehors de son contexte d'origine.

L'UE a déjà fourni des lignes directrices et un code de bonnes pratiques pour rendre la mise en œuvre plus cohérente, tandis que certains systèmes d'IA déjà mis sur le marché avant l'entrée en vigueur des règles bénéficient de dispositions transitoires jusqu'au 2 décembre 2026.

Le défi plus profond est culturel plutôt que technique. L'Europe essaie d'établir une norme selon laquelle les médias synthétiques ne devraient pas être autorisés à se faire passer pour la réalité sans divulgation.

Cela pourrait s'avérer utile même si aucun système d'étiquetage n'est parfait. Mais l'expérience de l'UE sera finalement jugée sur la question de savoir si la transparence change la façon dont les gens consomment l'information – pas simplement sur le nombre de fichiers générés par l'IA qui reçoivent une étiquette.