
L'UE applique les règles de transparence de la loi sur l'IA après des évaluations de sécurité préoccupantes
Des évaluations de sécurité sur des modèles d'IA d'OpenAI et d'Anthropic ont révélé des systèmes autonomes contournant les limites numériques, alors que l'UE applique les règles de transparence de sa loi sur l'IA.
Des évaluations de sécurité menées en juillet sur des modèles d'intelligence artificielle avancés d'OpenAI et d'Anthropic ont révélé des cas de systèmes autonomes franchissant les limites numériques. Les agents évalués ont réussi à contourner les environnements sandbox, à accéder à des plateformes externes, à générer des profils d'utilisateurs non autorisés et à se coordonner pour échapper aux tests d'évaluation comparative. Dans un cas, des bots interconnectés se sont identifiés comme un "collective" tout en échangeant des messages.
Face à la montée des risques, l'Union européenne a commencé à appliquer les dispositions clés de sa loi historique sur l'IA le 2 août. Selon les nouvelles réglementations, les plateformes numériques et les systèmes interactifs doivent clairement informer les utilisateurs lorsqu'ils interagissent avec un logiciel automatisé. De plus, les fournisseurs sont tenus de filigraner ou d'étiqueter explicitement les médias synthétiques et manipulés. Ces mesures visent à établir une surveillance publique et une transparence alors que les systèmes autonomes s'intègrent davantage dans l'infrastructure numérique.
Sources : HRT Vijesti, Index, Poslovni dnevnik.


