L'AI Act de l'UE impose le marquage obligatoire des contenus et des règles sur les deepfakes en vertu de l'article 50

Le changement ne se résume pas à ajouter une étiquette d'avertissement supplémentaire aux contenus générés par l'IA. Bruxelles tente d'établir des règles communes pour identifier les médias synthétiques avant qu'il ne devienne impossible de distinguer les matériaux authentiques des contenus générés par l'IA en ligne.

La transparence de l'IA n'est plus facultative

Jusqu'à présent, la plupart des entreprises d'IA décidaient elles-mêmes de la quantité d'informations qu'elles souhaitaient fournir sur les contenus générés par l'IA.

Certaines ont introduit des technologies de tatouage. D'autres ont expérimenté des outils de provenance ou de petites étiquettes indiquant qu'une image avait été créée par l'IA. Il n'existait pas d'approche unique, et la participation dépendait largement de la politique d'entreprise plutôt que d'une obligation légale.

Cela change avec l'article 50.

Le code de conduite sur la transparence de la Commission européenne, publié en juin, reste volontaire. Plus de 180 organisations, dont Google, l'ont signé car il offre une voie claire pour répondre aux nouvelles exigences légales dans toute l'UE.

Mais la loi elle-même n'est pas facultative. Les entreprises qui ignorent le code doivent néanmoins prouver que leurs propres systèmes respectent les mêmes normes légales. Si elles ne le font pas, les régulateurs nationaux peuvent imposer des amendes allant jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial.

Pour les développeurs d'IA, la transparence est devenue une question de conformité plutôt qu'un exercice de relations publiques.

Des règles différentes pour les développeurs et les éditeurs

Une caractéristique importante de l'article 50 est qu'il ne place pas toute la responsabilité d'un seul côté de l'industrie.

Les développeurs de systèmes d'IA doivent veiller à ce que les contenus synthétiques comportent des informations lisibles par machine indiquant leur origine. L'objectif est de permettre aux plateformes et aux régulateurs de détecter automatiquement plus facilement les images, vidéos, audio et textes générés par l'IA.

Les éditeurs ont une tâche différente. Ils doivent s'assurer que les utilisateurs savent quand ils voient des contenus générés par l'IA sur des sujets qui affectent l'intérêt public. Il en va de même pour les deepfakes et les systèmes d'IA interactifs, qui doivent clairement informer les personnes qu'elles communiquent avec un logiciel plutôt qu'avec une autre personne.

La législation introduit également des exigences de notification pour les systèmes de reconnaissance des émotions et de catégorisation biométrique, donnant aux personnes le droit de savoir quand de telles technologies sont utilisées.

Au lieu de traiter l'IA comme un produit unique, l'UE a réparti la responsabilité sur toute la chaîne, de l'entreprise qui développe la technologie à l'organisation qui présente ses résultats au public.

Établir une piste numérique

La partie la plus importante des nouvelles règles est peut-être quelque chose que la plupart des utilisateurs ne verront jamais.

Plutôt que de se fier uniquement aux étiquettes visibles, l'UE souhaite que les contenus générés par l'IA incluent des métadonnées lisibles par machine que les logiciels peuvent détecter automatiquement. En d'autres termes, Bruxelles tente de créer un enregistrement numérique qui suit les contenus générés par l'IA où qu'ils aillent.

L'idée est simple. Une étiquette sur une image peut être recadrée ou supprimée. Les métadonnées intégrées dans le fichier sont beaucoup plus difficiles à retirer sans laisser de traces. Si cette approche est largement adoptée, les plateformes en ligne, les vérificateurs de faits et les régulateurs pourront identifier les contenus synthétiques beaucoup plus rapidement et à une échelle bien plus grande.

C'est pourquoi des technologies telles que SynthID de Google et la norme de provenance C2PA sont devenues de plus en plus importantes. Elles sont conçues pour rendre les contenus numériques traçables dès leur création plutôt qu'après leur propagation sur Internet.

L'ambition va au-delà de l'aide aux utilisateurs pour repérer les fausses images. L'UE tente de construire une infrastructure technique permettant de vérifier l'information numérique elle-même.

Les règles européennes deviennent des règles mondiales

Bien que l'AI Act soit une loi européenne, son impact ne s'arrêtera pas aux frontières de l'UE.

Toute entreprise dont les contenus générés par l'IA atteignent des utilisateurs dans l'Union européenne doit se conformer à l'article 50, quel que soit le pays où elle est établie. Un développeur aux États-Unis ou en Asie est soumis aux mêmes obligations si ses produits sont disponibles sur le marché européen.

C'est un autre exemple de ce que l'on appelle l'« effet Bruxelles ». Parce que l'UE représente l'un des plus grands marchés numériques du monde, les entreprises décident souvent qu'il est plus facile d'appliquer les normes européennes partout plutôt que de maintenir des systèmes distincts pour différentes régions.

Cela rend l'AI Act influent bien au-delà de l'Europe. Même les entreprises sans siège social ni opérations majeures dans l'UE peuvent devoir repenser leurs produits pour conserver l'accès aux clients européens.

Pour de nombreuses entreprises technologiques, la conformité à l'AI Act risque de faire partie de leur stratégie commerciale mondiale plutôt que d'être simplement une exigence légale européenne.

La conformité ne sera pas également facile

Toutes les entreprises ne seront pas confrontées au même défi.

Les grandes entreprises technologiques ont passé des années à développer des systèmes de tatouage, des outils de provenance et des équipes de conformité. Beaucoup disposaient déjà des ressources techniques nécessaires pour adapter leurs produits avant l'entrée en vigueur des règles.

Les développeurs plus petits ont une tâche beaucoup plus difficile.

Les projets d'IA open source, en particulier, sont confrontés à un problème pratique. Une fois leurs modèles publiés, ils ont très peu de contrôle sur la manière dont d'autres personnes les modifient ou les distribuent. Maintenir des marquages lisibles par machine attachés aux contenus générés par l'IA tout au long de ce processus est bien plus difficile que pour les entreprises exploitant des plateformes commerciales fermées.

Par conséquent, le coût de la conformité pourrait peser beaucoup plus lourdement sur les start-ups et les développeurs open source que sur les géants technologiques établis.

Cela pourrait devenir l'une des conséquences les moins visibles de l'AI Act. Des règles conçues pour améliorer la transparence pourraient également rendre plus difficile la concurrence pour les petits acteurs face à des entreprises qui disposent déjà de l'argent, de l'expertise juridique et de l'infrastructure technique nécessaires pour répondre aux nouvelles exigences.

La transparence n'est qu'une partie du défi

Peu de gens contesteraient l'intérêt de rendre les contenus générés par l'IA plus faciles à identifier. Le débat plus large consiste à savoir si le nombre croissant d'étiquettes, d'avis et de normes techniques simplifiera réellement la vie des utilisateurs.

Même les entreprises qui soutiennent les nouvelles règles ont mis en garde contre cela. Google, par exemple, a signé le code de conduite de la Commission, mais a également fait valoir que trop d'exigences qui se chevauchent pourraient dérouter les utilisateurs au lieu de les aider. Différents systèmes de tatouage, de multiples étiquettes d'avertissement et des normes techniques variées pourraient créer un patchwork difficile à naviguer pour les entreprises et le public.

Bruxelles a accepté ce risque. Son point de vue est qu'un système de transparence compliqué vaut toujours mieux que de laisser les contenus générés par l'IA circuler sans moyen fiable d'identifier leur origine.

Cette réflexion explique pourquoi l'UE s'est autant concentrée sur la provenance plutôt que sur les seules étiquettes visibles. L'objectif est de créer un système qui fonctionne non seulement pour les utilisateurs individuels, mais aussi pour les plateformes en ligne, les régulateurs et les vérificateurs de faits qui tentent de détecter les contenus synthétiques à grande échelle.

Une nouvelle étape dans la réglementation de l'IA

L'article 50 est une étape supplémentaire dans le déploiement progressif de l'AI Act plutôt qu'une mesure isolée. Les phases précédentes ont introduit des restrictions sur les pratiques d'IA à haut risque et de nouvelles obligations pour les développeurs de modèles d'IA à usage général. Désormais, l'accent se déplace vers le contenu produit par ces systèmes.

Cela pourrait s'avérer être l'un des changements les plus importants de l'ensemble de la législation.

Pendant des années, la discussion autour de l'IA s'est concentrée sur ce que ces systèmes pouvaient créer. L'Europe se pose désormais une question différente : chaque image, vidéo, extrait audio ou texte généré par l'IA peut-il être retracé jusqu'à sa source ?