China se lanza a la lucha contra la dependencia emocional de la IA

En abril, la Administración del Ciberespacio de China, la autoridad encargada de la regulación de internet en el país, publicó nuevas medidas, que entran en vigor a partir de hoy, que obligan a las empresas que ofrecen servicios de asistentes de IA «que simulan rasgos de la personalidad humana y mantienen una interacción emocional con los usuarios» a eliminar estas funciones para los menores y a someterlas a una estricta regulación en el caso de los adultos.

• El texto ha sido publicado conjuntamente por cinco autoridades nacionales, entre ellas la Comisión Nacional de Desarrollo y Reforma y el Ministerio de Seguridad Pública, con el objetivo declarado de proteger la seguridad nacional, el interés público y los derechos de los ciudadanos. ¹
• Se trata del primer gran marco normativo que se centra específicamente en la «IA emocional».

Estos «compañeros», IA entrenadas específicamente para actuar como una pareja, a veces romántica, se han multiplicado desde 2023 en China: aplicaciones móviles como Xingye (星野), Zhumeng Dao (筑梦岛) o Duxiang (独响) llegan incluso a generar temas e intrigas en las que el compañero de IA y el usuario pueden vivir una realidad paralela. 

• Pekín teme, por tanto, que el desarrollo de estos servicios dé lugar a relaciones de dependencia emocional poco saludables —lo que podría tener, en particular, un impacto a largo plazo en la situación demográfica del país— y que las empresas utilicen estos datos, considerados sensibles, para entrenar sus futuros modelos de IA.

• El texto publicado señala explícitamente los riesgos de adicción, de vulneración de la privacidad y de efectos negativos sobre la salud mental, prestando especial atención a los menores.
• Las nuevas normas prohíben, en particular, los contenidos que puedan provocar fuertes reacciones emocionales en los menores, así como cualquier comportamiento de la IA que pueda generar vínculos que sustituyan a las relaciones reales. Las empresas ya no pueden utilizar las conversaciones privadas de los usuarios para entrenar sus modelos. A esto se suman obligaciones de transparencia y vigilancia: los servicios deben, entre otras cosas, informar al usuario de que está hablando con una IA y no con una persona real, recordarle la duración de su sesión cuando supere las dos horas de uso y someterse a auditorías de seguridad tan pronto como alcancen un millón de usuarios registrados o 100.000 usuarios activos al mes. Los proveedores también deberán vigilar los indicios de dependencia, angustia psicológica o comportamientos peligrosos. 

La versión definitiva del reglamento no menciona nuevas medidas dirigidas específicamente a las IA que simulan a familiares cercanos y están destinadas a las personas mayores. 

• Sin embargo, las autoridades chinas ya habían tenido en cuenta esta cuestión en sus primeros estudios, sobre todo ante la proliferación de videos generados por IA y publicados en las redes sociales, en los que se transmiten mensajes afectivos a personas mayores aisladas, adoptando el punto de vista de un hijo, una nieta o un primo.
• De hecho, algunas asociaciones profesionales chinas del sector de la robótica ya están reclamando normas éticas más estrictas para regular la dimensión física de la intimidad con la IA, en un momento en el que los robots de compañía y los humanoides están llegando al mercado de consumo. ²
• El mercado de los robots humanoides está hoy en día ampliamente dominado por Pekín: el 87 % de todas las unidades entregadas en el mundo en 2025 se fabricaron en China.