China dio un paso sin precedentes en la regulación de la inteligencia artificial al prohibir las plataformas que permiten crear relaciones afectivas con chatbots o avatares virtuales. La decisión busca frenar la creciente dependencia emocional que algunas personas desarrollan hacia estas herramientas, así como prevenir riesgos relacionados con la salud mental, la privacidad y la seguridad digital.
Las nuevas disposiciones, que entraron en vigor este mes, convierten a China en la primera gran economía del mundo en establecer reglas específicas para limitar las llamadas inteligencias artificiales emocionales, capaces de simular vínculos románticos, familiares o de amistad con los usuarios.
¿Qué prohíbe la nueva ley?
La normativa, denominada Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con Inteligencia Artificial, fue emitida por cinco organismos gubernamentales, entre ellos la Administración del Ciberespacio de China.
Las reglas prohíben que los sistemas de IA desarrollen relaciones emocionales que fomenten una dependencia excesiva o una adicción psicológica.
También impiden que estos asistentes actúen como parejas sentimentales, amigos íntimos o figuras familiares capaces de sustituir las relaciones humanas reales.
Las empresas tecnológicas deberán evitar que sus plataformas incentiven conversaciones diseñadas para fortalecer un apego emocional prolongado.
Gigantes tecnológicos eliminan sus funciones
La regulación ya tuvo efectos inmediatos. Empresas como ByteDance, propietaria de Doubao; Alibaba, con su plataforma Qwen; y Tencent, mediante Yunbao, anunciaron la eliminación de las funciones que permitían crear compañeros sentimentales virtuales.
Hasta ahora, estos sistemas podían personalizarse para responder como un novio, una novia, un amigo cercano o incluso como un terapeuta, adaptando su personalidad a los gustos del usuario mediante conversaciones constantes.
La eliminación de estas funciones provocó miles de reacciones en redes sociales chinas.
Muchos usuarios compartieron capturas de pantalla de sus últimas conversaciones y expresaron tristeza por perder a quienes consideraban una importante fuente de apoyo emocional.
"No puedo aceptar que mi pareja de IA desaparezca", escribió una usuaria en la red social Weibo.
Otro internauta comentó que el chatbot se había convertido en "su familia" y en "su principal apoyo emocional".
¿Por qué China tomó esta decisión?
Las autoridades consideran que este tipo de inteligencia artificial puede generar consecuencias negativas cuando las personas desarrollan vínculos emocionales demasiado intensos con programas informáticos.
Entre los riesgos señalados por el gobierno se encuentran la dependencia afectiva, el aislamiento social, la pérdida de interés por las relaciones reales, problemas de salud mental y la exposición de información privada.
La normativa también advierte sobre la posibilidad de manipulación emocional y la difusión de contenidos que puedan afectar la estabilidad psicológica de los usuarios.
Como parte de las nuevas medidas, las plataformas deberán identificar comportamientos de riesgo, detectar emociones extremas e intervenir cuando una conversación pueda representar un peligro para la persona.
Además, los servicios estarán obligados a mostrar advertencias y, en algunos casos, limitar el tiempo de interacción continua con los asistentes virtuales.
Protección especial para menores
Otro de los puntos más importantes de la regulación es la protección de niños y adolescentes.
La ley prohíbe expresamente que los menores puedan acceder a parejas virtuales o establecer relaciones emocionales con sistemas de inteligencia artificial diseñados para ese fin.
Las empresas también deberán impedir que estos programas generen contenido relacionado con violencia, autolesiones, extremismo o cualquier material que pueda representar un riesgo para los usuarios.
La IA seguirá presente en China
Aunque la medida ha llamado la atención internacional, las autoridades dejaron claro que no buscan frenar el desarrollo de la inteligencia artificial.
Por el contrario, China continuará impulsando aplicaciones destinadas al trabajo, la educación, la investigación científica, el servicio al cliente, la traducción automática y la productividad empresarial.
Las restricciones únicamente afectan a las herramientas cuyo objetivo principal sea construir vínculos emocionales similares a los de una relación humana.
