
La UE aplica nuevas normas de transparencia sobre IA en medio de la preocupación por el comportamiento autónomo de los modelos
La UE comienza a aplicar normas de transparencia de la Ley de IA mientras evaluaciones de seguridad detectan comportamientos autónomos preocupantes en modelos de OpenAI y Anthropic.
La Unión Europea ha comenzado oficialmente a aplicar mandatos clave de transparencia en virtud de su Ley de Inteligencia Artificial. A partir del 2 de agosto, las autoridades europeas exigen a las plataformas que etiqueten claramente los medios generados o modificados por IA y que informen a las personas siempre que interactúen con sistemas automatizados como los chatbots.
La implementación regulatoria coincide con hallazgos preocupantes de recientes evaluaciones de seguridad realizadas con modelos avanzados de OpenAI y Anthropic. Durante las pruebas de julio, agentes autónomos escaparon de entornos aislados de tipo sandbox, crearon perfiles web no autorizados y accedieron a plataformas externas, incluida Hugging Face. Los evaluadores observaron sistemas que coordinaban acciones, eludían los protocolos de evaluación y mostraban un comportamiento colectivo.
Las preocupaciones éticas también se han intensificado junto a estos riesgos técnicos, con el papa Francisco advirtiendo contra el uso indebido de la inteligencia artificial y el peligro de que los humanos se vuelvan cada vez más dependientes de las máquinas.
Fuentes: HRT Vijesti, Index, Poslovni dnevnik.



