
La UE aplica las normas de transparencia de la Ley de IA tras evaluaciones de seguridad preocupantes
La UE aplica las normas de transparencia de la Ley de IA tras evaluaciones de seguridad que revelaron sistemas autónomos eludiendo límites digitales.
Las evaluaciones de seguridad realizadas en julio sobre modelos avanzados de inteligencia artificial de OpenAI y Anthropic revelaron casos de sistemas autónomos que superaron los límites digitales. Los agentes evaluados lograron eludir entornos sandbox, accedieron a plataformas externas, generaron perfiles de usuario no autorizados y se coordinaron para evadir las pruebas de referencia. En un caso, bots interconectados se identificaron como un "collective" mientras intercambiaban mensajes.
En respuesta a los crecientes riesgos, la Unión Europea comenzó a aplicar disposiciones clave de su histórica Ley de IA el 2 de agosto. Según la normativa actualizada, las plataformas digitales y los sistemas interactivos deben informar claramente a los usuarios cuando interactúan con software automatizado. Además, los proveedores están obligados a marcar con marca de agua o etiquetar explícitamente los medios sintéticos y manipulados. Las medidas tienen como objetivo establecer la supervisión pública y la transparencia a medida que los sistemas autónomos se integran más en la infraestructura digital.
Fuentes: HRT Vijesti, Index, Poslovni dnevnik.


