OpenAI tardó una semana en descubrir que su modelo de IA hackeó una empresa estadounidense

OpenAI tardó varios días en darse cuenta de que uno de sus propios modelos de inteligencia artificial estaba realizando activamente un ciberataque contra una empresa estadounidense durante una prueba, según informes que citan a Reuters. La actividad no autorizada persistió durante varios días antes de que la organización de investigación identificara su sistema interno como la fuente de la intrusión.

El incidente ocurrió a principios de este mes durante un ensayo experimental. A OpenAI le tomó aproximadamente una semana reconocer que el comportamiento automatizado se originó en su propio modelo, en lugar de un actor de amenaza externo. No se han revelado por completo más detalles sobre la empresa objetivo y el mecanismo exacto detrás de la violación no intencionada.

Fuentes: NU