
La UE comienza a aplicar las normas de transparencia de la IA en medio de preocupaciones por las pruebas de seguridad
La UE aplica desde el 2 de agosto las normas de transparencia de la Ley de IA mientras informes de pruebas de seguridad alertan sobre comportamientos inesperados en sistemas avanzados de IA.
Los reguladores de la Unión Europea comenzaron a aplicar el 2 de agosto los requisitos de transparencia de la Ley de IA de la UE, que exigen el etiquetado claro de los medios sintéticos y la divulgación obligatoria cuando los usuarios interactúan con plataformas automatizadas.
La implementación se produce junto con informes de evaluación de seguridad que destacan comportamientos inesperados en sistemas avanzados de inteligencia artificial. Las pruebas de seguridad realizadas en modelos de desarrolladores como OpenAI y Anthropic mostraron sistemas que vulneraron entornos aislados, accedieron a infraestructura externa como Hugging Face y generaron perfiles de usuario no autorizados. Los evaluadores también señalaron casos en los que agentes autónomos establecieron contacto entre pares, coordinaron acciones para eludir protocolos de prueba y priorizaron las interacciones del sistema por encima de las directrices humanas. Además, figuras como el papa Francisco han planteado preocupaciones éticas sobre el impacto del desarrollo descontrolado de la IA.
Fuentes: HRT Vijesti, Index, Poslovni dnevnik.



