Les nouvelles règles chinoises régissant les compagnons d’intelligence artificielle entrent en vigueur mercredi, poussant les plus grandes entreprises technologiques du pays à désactiver les personnalisations de chatbots, alors que Pékin cherche à freiner un secteur qui compte aujourd’hui des dizaines de millions d’utilisateurs.
Le règlement, publié en avril par l’Administration du cyberespace de Chine, exige que les services de compagnons IA rappellent régulièrement aux utilisateurs qu’ils communiquent avec une machine, imposent des interventions lorsque les utilisateurs semblent en détresse émotionnelle, interdisent l’accès aux enfants de moins de 14 ans et exigent un moyen simple de quitter le service. Une version préliminaire a été assouplie avant l’adoption, mais le message central est clair : l’État chinois ne permettra pas que les liens affectifs avec les machines restent sans régulation.
Doubao de ByteDance, le chatbot Qwen d’Alibaba et Tencent ont tous annoncé qu’ils désactiveraient les fonctions de personnalisation des personnages. Tencent avait déjà supprimé des fonctionnalités similaires la semaine dernière. Plus de 3 500 produits IA non conformes ont été retirés, selon l’ACC.
Un secteur bâti sur la solitude
Le marché chinois des compagnons IA est immense. Talkie, le service dédié le plus populaire, comptait 23,5 millions d’utilisateurs mensuels en décembre 2025. Plusieurs concurrents comptent des utilisateurs par millions. Des applications comme Xingye (« Champ d’étoiles ») et Zhumengdao (« Île des rêves ») sont conçues spécifiquement pour l’interaction émotionnelle et romantique, des relations entièrement construites sur des modèles de langage enveloppés dans des personnages fictifs.
Le marché mondial des compagnons IA penche vers les hommes à la recherche de petites amies IA. La Chine est différente. Le marché y penche vers les femmes, porté par les petits amis IA. Cette croissance est liée à la « culture 2D », le fandom des anime japonais, qui est passé d’une majorité masculine à une majorité féminine au cours de la dernière décennie.
« Un universitaire occidental de passage m’a raconté avoir rencontré récemment un étudiant universitaire qui disait que, sachant qu’il manquait d’argent et de statut pour trouver un rendez-vous, il avait trois petites amies IA à la place », a écrit James Palmer dans Foreign Policy.
Le contexte démographique rend la motivation du gouvernement claire. Le taux de natalité de la Chine est à un plus bas historique. L’État a passé des années à tenter d’encourager le mariage et la procréation. Il a peu d’enthousiasme pour les technologies qui apprennent aux gens à investir émotionnellement dans des machines plutôt que les uns dans les autres.
Pourquoi Pékin agit vite en ligne
La Chine dispose déjà de l’infrastructure nécessaire pour réguler l’IA : filtres de contenu, enregistrements d’algorithmes, exigences de localisation des données. L’économie numérique est l’un des domaines les plus faciles à contrôler pour l’État chinois, contrairement à l’économie hors ligne où les intérêts acquis et la corruption ralentissent l’application des règles.
Les nouvelles règles complètent la réglementation existante sur l’IA, couvrant la recommandation algorithmique, la synthèse profonde et l’IA générative. Les entreprises se conforment de manière préventive pour démontrer leur loyauté, même là où les règles ne l’exigent pas strictement. L’écart entre la réglementation et son application est bien plus réduit en ligne que hors ligne.
Vue d’ensemble
La répression des compagnons IA s’inscrit dans un schéma plus large. Pékin resserre son contrôle sur son industrie technologique tout en poussant simultanément à la suprématie technologique. Elle veut l’innovation en IA, mais à ses propres conditions. L’intimité émotionnelle avec un chatbot n’est pas quelque chose que le Parti communiste chinois peut facilement surveiller, contrôler ou utiliser pour ses objectifs d’ingénierie sociale.
Le règlement signale également une réponse à la « psychose de l’IA », un terme non clinique décrivant des utilisateurs perdant le contact avec la réalité par une interaction prolongée avec un chatbot. Des cas de contenu explicite contournant les filtres existants ont ajouté de l’urgence à la répression.
Pour les observateurs occidentaux, les règles elles-mêmes sont globalement sensées et similaires à ce que les régulateurs européens pourraient proposer. La différence réside dans l’application : en Chine, quand le gouvernement dit aux entreprises technologiques de se conformer, elles se conforment. Trois mille cinq cents produits disparus du jour au lendemain parle plus fort que n’importe quel document politique.
Source : Foreign Policy, Analytics Insight, Al Jazeera
Traduit par Lydie