El gobernador de California ordena controles de seguridad para los laboratorios de inteligencia artificial
El gobernador de California, Gavin Newsom, ordena a los reguladores y líderes tecnológicos abordar los riesgos de seguridad de la inteligencia artificial, con posibles mecanismos de apagado de emergencia.
El gobernador de California, Gavin Newsom, ha instruido a los reguladores estatales y a los líderes tecnológicos a abordar los riesgos de seguridad en la inteligencia artificial, centrándose en posibles mecanismos de apagado de emergencia para los modelos avanzados. La iniciativa tiene como objetivo establecer directrices de seguridad para los sistemas de alta capacidad desarrollados en el estado, equilibrando la innovación técnica con la supervisión pública.
En el marco de este plan, es posible que se exija a los desarrolladores implementar controles de protocolo capaces de detener las operaciones si un modelo avanzado plantea riesgos catastróficos o infringe las normas de seguridad. La medida se produce en medio de debates nacionales más amplios sobre la supervisión regulatoria en el sector de la inteligencia artificial, en rápida expansión. Figuras de la industria y expertos jurídicos siguen evaluando cómo afectarán estos mandatos a la investigación y al despliegue comercial en las principales empresas tecnológicas.
Fuentes: Bloomberg