La Chine engage la lutte contre la dépendance affective vis-à-vis de l’IA

Au mois d’avril, l’Administration du cyberespace de Chine, l’autorité en charge de la régulation d’Internet dans le pays, a publié de nouvelles mesures, effectives à partir d’aujourd’hui, contraignant les entreprises qui proposent des services d’assistants IA « qui simulent des traits de personnalité humaine et entretiennent une interaction émotionnelle avec les utilisateurs » à mettre fin à ces fonctionnalités pour les mineurs, et à les encadrer strictement pour les adultes.

• Le texte a été publié conjointement par cinq autorités nationales, dont la Commission nationale du développement et de la réforme et le ministère de la Sécurité publique, avec pour objectif affiché de protéger la sécurité nationale, l’intérêt public et les droits des citoyens ¹.
• Il s’agit du premier grand cadre réglementaire ciblant spécifiquement l’« IA émotionnelle ».

Ces « compagnons », des IA spécifiquement entraînées pour agir comme un partenaire, parfois romantique, se sont multipliés depuis 2023 en Chine : des applications mobile comme Xingye (星野), Zhumeng Dao (筑梦岛) ou Duxiang (独响) vont jusqu’à générer des thèmes et des intrigues dans lesquelles le compagnon IA et l’utilisateur peuvent vivre une réalité parallèle. 

• Pékin craint ainsi que le développement de ces services ne conduise au développement de relations de dépendance affective malsaine – ce qui pourrait notamment avoir un impact sur le long terme sur la situation démographique du pays –, et que les entreprises utilisent ces données considérées comme sensibles pour entraîner leurs futurs modèles d’IA.

• Le texte publié pointe explicitement les risques de dépendance, d’atteinte à la vie privée et d’effets négatifs sur la santé mentale, avec une attention particulière aux mineurs.
• Les nouvelles règles interdisent notamment les contenus susceptibles de provoquer de fortes réactions émotionnelles chez les mineurs, ainsi que tout comportement de l’IA pouvant créer des attachements se substituant aux relations réelles. Les entreprises ne peuvent plus utiliser les conversations privées des utilisateurs pour entraîner leurs modèles. Des obligations de transparence et de vigilance s’ajoutent à cela : les services doivent notamment informer l’utilisateur qu’il parle à une IA et non à une personne réelle, lui rappeler la durée de sa session au-delà de deux heures d’utilisation et passer des examens de sécurité dès qu’ils atteignent un million d’utilisateurs enregistrés ou 100 000 utilisateurs actifs mensuels. Les fournisseurs devront également surveiller les signes de dépendance, de détresse psychologique ou de comportements dangereux. 

La version finale du règlement ne mentionne pas de nouvelles mesures ciblant spécifiquement les IA qui simulent des proches à destination des personnes âgées. 

• Cette thématique avait pourtant été considérée par les autorités chinoises dans ses premiers travaux, notamment au vu de la multiplication de vidéos générées par IA et publiées sur les réseaux sociaux qui adressent des messages affectifs aux seniors isolés en se plaçant du point de vue d’un fils, d’une petite-fille ou d’un cousin.
• D’ailleurs, des associations professionnelles chinoises de robotique appellent déjà à des normes éthiques plus strictes pour encadrer la dimension physique de l’intimité avec l’IA, au moment où robots compagnons et humanoïdes arrivent sur le marché grand public ².
• Le marché des robots humanoïdes est aujourd’hui largement dominé par Pékin : 87 % de toutes les unités livrées dans le monde en 2025 ont été fabriquées en Chine.