El director de Anthropic pide ralentizar el desarrollo de la IA ante las preocupaciones por la seguridad

Dario Amodei, director ejecutivo de la empresa de inteligencia artificial Anthropic, ha pedido a los desarrolladores que frenen el ritmo de creación de nuevos modelos de IA de frontera. En un ensayo publicado en línea, Amodei sostuvo que una ralentización deliberada permitiría a la industria abordar mejor los riesgos emergentes asociados a la tecnología avanzada.

La advertencia se produce después de un reciente informe de Anthropic que reveló que su modelo de IA, Claude, había sido objeto de actividades maliciosas, incluidos intentos de ayudar en el desarrollo de armas y en la programación de misiles. La empresa también afrontó esta semana turbulencias internas después de que el investigador Jacob Coxon dimitiera en protesta por preocupaciones de seguridad. Amodei advirtió que no frenar el progreso podría acarrear consecuencias graves en los próximos meses.

Fuentes: Aftenposten, NRK, TV 2 Nyheter