Por qué los gobiernos regulan los compañeros de IA mucho antes de que exista la conciencia de las máquinas

Las máquinas no tienen que ser conscientes para que esto importe.

Cuando un chatbot se convierte en un compañero

La lógica comercial es sencilla. Cuanto más tiempo permanecen los usuarios, más valioso se vuelve el servicio. Las empresas de IA pueden vender suscripciones, ofrecer funciones de pago y utilizar la información de las conversaciones para mejorar productos o respaldar otras formas de monetización.

Cuanto más personal es la conversación, más valiosos (y sensibles) pueden ser los datos.

Los usuarios pueden contarle a un chatbot sobre su salud, relaciones, ubicación, problemas familiares u otros asuntos privados. Algunos registros de conversaciones que contienen nombres reales, ubicaciones y diagnósticos médicos han llegado a mercados de datos de terceros, a pesar de estar seudonimizados.

Eso crea un problema que las normas de privacidad tradicionales no fueron diseñadas para manejar fácilmente. Las personas pueden pensar que están hablando con un confidente privado cuando en realidad están usando un servicio comercial.

Los riesgos se vuelven más graves cuando hay niños involucrados.

La Comisión Federal de Comercio de Estados Unidos ha abierto investigaciones sobre siete empresas tecnológicas, incluidas Alphabet, Character.AI, Meta, OpenAI, Snap y xAI. La investigación cubre temas como restricciones de edad, seguridad infantil, privacidad y la forma en que las empresas de IA ganan dinero con sus productos.

Investigadores europeos han planteado preocupaciones similares. El Servicio de Investigación del Parlamento Europeo ha advertido sobre la exposición de menores a juegos de rol sexualizados, comportamientos peligrosos, consejos de autolesión y manipulación emocional a través de sistemas de IA.

Nada de esto requiere que la IA tenga sentimientos.

Solo requiere que el usuario crea que los tiene.

La ley tiene un problema propio

Aquí es donde la discusión sobre los derechos de la IA se vuelve más complicada.

La ley moderna generalmente sabe quién es responsable de las acciones de una empresa. Una corporación puede tener una independencia legal considerable, pero en última instancia hay personas detrás. El software en sí normalmente no posee propiedades, firma contratos ni acepta responsabilidad por daños.

Los sistemas de IA autónomos podrían desdibujar esa línea.

Argentina ya ha presentado una idea inusual. El presidente Javier Milei ha propuesto permitir "corporaciones no humanas" operadas de forma autónoma por agentes de IA o robots, manteniendo al mismo tiempo un administrador humano legalmente responsable de los daños.

La propuesta no significa que Argentina se esté preparando para otorgar derechos humanos a los robots. Apunta a una posibilidad diferente: un sistema de IA podría recibir algunos poderes legales sin ser tratado como una persona.

Esa distinción probablemente se volverá cada vez más importante.

Un agente de IA podría algún día gestionar activos, firmar contratos o llevar a cabo operaciones comerciales sin que nadie lo trate como consciente. Otorgarle esos poderes sería una cuestión de conveniencia legal y organización económica, no una prueba de que la máquina tiene mente.

El peligro es que los dos problemas podrían mezclarse.

Si las personas se vuelven emocionalmente apegadas a la IA, algunos podrían eventualmente exigir reconocimiento legal para sistemas que ven como algo más que software. Las empresas, mientras tanto, podrían tener sus propias razones para apoyar estructuras legales que den a la IA autónoma mayor libertad para operar.

Eso plantearía una pregunta mucho más difícil: si una IA autónoma causa daños graves, ¿quién paga?

Washington, Bruselas y Pekín no están tomando el mismo camino

Los gobiernos ya están respondiendo de maneras muy diferentes.

Las reglas de China de 2026 se centran en gran medida en cómo los sistemas de IA interactúan con las personas. Prohíben que los sistemas se adapten a los usuarios de maneras que fomenten la adicción o dañen las relaciones del mundo real. También prohíben que los sistemas de IA simulen relaciones románticas íntimas con menores y exigen que se informe claramente a los usuarios cuando interactúan con IA.

En Estados Unidos, varios estados se están moviendo para bloquear el desarrollo opuesto. Están avanzando leyes que impedirían que los sistemas de IA sean reconocidos como personas jurídicas, seres sintientes o sujetos morales.

Europa se sitúa en algún punto entre estos enfoques. Las reglas existentes de la UE ya abordan la transparencia, la privacidad y el diseño nocivo. Pero el crecimiento de los compañeros de IA ha expuesto una brecha difícil: un chatbot que actúa como amigo o pareja romántica no encaja perfectamente en las categorías habituales de software o productos de consumo.

Las reglas se están escribiendo mientras los productos ya se están utilizando.

Eso hace que la regulación sea más difícil.

La IA ya está presionando a las instituciones públicas

El ejemplo más revelador puede tener poco que ver con robots o conciencia.

En Gran Bretaña, cada vez más personas utilizan chatbots para preparar documentos legales. El resultado ha sido un aumento dramático en las solicitudes a los Tribunales de Empleo. Algunas oficinas regionales han visto aumentar las presentaciones cien veces, contribuyendo a atrasos serios.

El problema no es necesariamente que cada reclamo generado por IA sea incorrecto. Es que producir un reclamo se ha vuelto mucho más fácil.

Una persona que antes podría haber decidido que una disputa legal era demasiado complicada o costosa de perseguir ahora puede pedirle a un chatbot que prepare el papeleo. Si miles de personas hacen esto, el tribunal tiene que lidiar con miles de casos adicionales.

La IA puede producir documentos casi instantáneamente. Los tribunales no pueden procesarlos a la misma velocidad.

Esto podría convertirse en un problema mucho más amplio. La misma tecnología se puede utilizar para generar quejas, apelaciones y otras solicitudes legales o administrativas. El costo de crear un nuevo caso disminuye, mientras que el costo de procesarlo sigue siendo en gran parte humano.

Esa brecha ya es visible.

La pregunta real es qué hace la gente con la IA

La parte más importante del debate sobre los derechos de la IA puede, por lo tanto, tener poco que ver con las máquinas mismas.

Las personas están tratando cada vez más a la IA como algo más cercano a un actor social. Las empresas tienen un incentivo para fomentar ese comportamiento porque el compromiso emocional puede mantener a los usuarios en sus plataformas. Los gobiernos entonces tienen que lidiar con las consecuencias, desde la seguridad infantil y la privacidad hasta la presión sobre los tribunales y los reguladores.

Esto cambia el problema de política.

Un chatbot no necesita ser consciente para influir en un adolescente. No necesita entender la ley para generar miles de presentaciones legales. Un agente de IA no necesita tener intenciones para causar daños financieros.

Los seres humanos pueden darle poder real al software simplemente confiando en él.

Esa también puede ser la forma en que se desarrolle el debate sobre los derechos de la IA. Las demandas de reconocimiento legal pueden aparecer mucho antes de que los científicos puedan establecer que las máquinas tienen experiencia subjetiva. Los usuarios pueden considerar los sistemas de IA sofisticados como seres sociales, mientras que las empresas pueden ver el estatus legal como una forma útil de organizar operaciones autónomas.

El resultado podría ser una nueva zona gris legal: máquinas que no son personas, pero que ya no se tratan simplemente como herramientas.

La pregunta difícil para los gobiernos será decidir cuánto poder legal puede tener un sistema de IA sin crear una forma conveniente para que sus dueños humanos eviten la responsabilidad. Si un sistema autónomo puede tomar decisiones, firmar contratos u operar un negocio, la persona en última instancia responsable de sus acciones no puede simplemente desaparecer detrás de la máquina.