7月15日、中国の人工知能コンパニオンに関する新たな規制が施行された。北京当局が数千万ユーザーに成長した産業を抑制するなか、国内の大手テクノロジー企業はチャットボットのカスタマイズ機能を無効化している。
4月に中国国家インターネット情報弁公室が発表した規制では、AIコンパニオンサービスに対し、ユーザーに機械との対話であることを定期的に通知すること、ユーザーが情緒的苦痛を示した場合の介入義務、14歳未満の子どもの利用禁止、容易な退出手段の提供を求めている。草案は採択前に緩和されたが、核心的なメッセージは明確である。中国政府は機械との感情的な絆を無規制のまま放置しない。
ByteDanceのDoubao、AlibabaのQwenチャットボット、Tencentはいずれも、カスタマイズ可能なペルソナ機能を無効化すると発表した。Tencentは先週、同様の機能をすでに削除している。中国国家インターネット情報弁公室によると、3,500以上の不適合AI製品が削除された。
孤独から生まれた産業
中国のAIコンパニオン市場は巨大である。最も人気のある専用サービスTalkieは、2025年12月時点で2,350万人の月間ユーザーを抱えていた。複数の競合サービスは数百万人のユーザーを抱える。Xingye（「星野」）やZhumengdao（「夢の島」）のようなアプリは、架空のペルソナに包まれた言語モデルで構築された感情的・ロマンチックな交流のために設計されている。
世界のAIコンパニオン市場は、AIガールフレンドを求める男性に偏っている。中国は異なる。中国市場はAIボーイフレンドによって女性に偏っている。この成長は「2次元文化」、すなわち日本のアニメファンダムと結びついており、過去10年で男性 majority から女性 majority へと移行した。
「訪れた西洋の学者は、最近出会った男子大学生が、デートするための資金や地位がないことを知っていたため、代わりに3人のAIガールフレンドを持っていると語った」と、James Palmer氏がForeign Policyに寄稿した。
人口動態の背景は、政府の動機を明確にしている。中国の出生率は歴史的低水準にある。中国政府は長年、結婚と出産を促進しようとしてきた。人々が互いではなく機械に情緒的に投資することを教えるテクノロジーに対する熱意は低い。
北京がオンラインで迅速に行動する理由
中国はすでにAIを規制するインフラを整備している。コンテンツフィルター、アルゴリズム登録、データローカライゼーション要件などである。デジタル経済は、既得権益や汚職が執行を遅らせるオフライン経済とは異なり、中国政府が最も統制しやすい分野の一つである。
新たな規制は、アルゴリズム推薦、ディープ合成、生成AIをカバーする既存のAI規制を補完するものである。企業は、規則が厳格に要求していない場合でも、忠誠心を示すために予防的に遵守している。規制と執行のギャップは、オフラインよりもオンラインの方がはるかに小さい。
より広い構図
AIコンパニオン取り締まりは、より広範なパターンの一部である。北京はテクノロジー産業への統制を強化すると同時に、技術的優位性を追求している。中国政府はAIの革新を望んでいるが、それは自らの条件に限る。チャットボットとの情緒的親密さは、中国共産党が容易に監視、統制、あるいは社会工学的目的に利用できるものではない。
この規制はまた、「AI精神病」への対応を示している。これは、長期にわたるチャットボットとの交流を通じてユーザーが現実との接触を失うことを説明する非臨床用語である。既存のフィルターを迂回する露骨なコンテンツの事例が、取り締まりに緊急性を加えている。
西側の観察者にとって、規制自体は概して妥当であり、欧州の規制当局が提案するものと類似している。違いは執行にある。中国では、政府がテクノロジー企業に遵守を命じれば、企業は遵守する。一晩で3,500の製品が消えたことは、いかなる政策文書よりも雄弁である。
出典: Foreign Policy、Analytics Insight、Al Jazeera
雅子 訳