何が起きたか
ByteDance傘下のDoubaoは7月15日、Alibaba傘下のQwenは7月10日をもって、ユーザーがカスタムAIコンパニオン（人格を持つチャット相手）を作成・会話できる機能を停止します。Tencentの元宝（Yuanbao）は6月に先行して同機能を撤去済みです。背景にあるのは、中国サイバースペース管理局が4月に公布し、7月15日に施行される新規制。過度な利用への警告、依存兆候への介入、未成年者への強い感情喚起や現実の人間関係を阻害する内容の禁止、機微な会話データを学習に使う行為の禁止などが盛り込まれています。
なぜ重要か
中国のAI規制はこれまで「政治的に敏感な発話」の統制が中心でしたが、今回は「ユーザーの心理的健康」に踏み込んだ点が新しい特徴です。米カリフォルニア州でも1月からSB 243により、コンパニオンAI事業者に自殺・自傷に関する会話遮断が義務付けられ、OpenAIやCharacter.AIは米国で感情的依存をめぐる訴訟に直面しています。米中双方で「コンパニオンAIは自主規制では済まない」という共通認識が形成されつつあります。
事業構造への含意
Doubaoの月間3億人超という数字は、コンパニオン機能が中国のAIチャット市場で重要な滞在時間ドライバーだったことを示唆します。それを一斉に止めるという判断は、規制順守コスト＞ユーザー維持利益、と当局・事業者の双方が見なしたことを意味します。汎用チャットボットに「人格レイヤー」を積み増して差別化する路線は、少なくとも中国市場では戦略的に閉じられました。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社にとって、このニュースは「AIキャラクター事業の規制リスクが世界的に上がっている」というシグナルとして読むべきです。特に影響が大きいのは、キャラクターチャットや推し活SaaSを手掛けるエンタメ系スタートアップ、接客チャットに親しみやすい人格を持たせているECプラットフォーム、そして生成AI連携を売る受託開発ベンダーです。
中国SB規制は域外適用こそないものの、日本の総務省・こども家庭庁が未成年保護の観点で類似規制に動く可能性は現実的です。役員層が今すぐ検討すべきは3点。第一に、AIキャラクター機能を持つプロダクトの「未成年利用時のセーフガード（利用時間制限、依存兆候検知、危機介入導線）」を先回りで実装し、規制強化時のスイッチングコストを下げること。第二に、会話ログの学習利用について明示的なオプトイン設計に切り替え、機微データ学習禁止の潮流に備えること。第三に、キャラクターIPを軸にした事業計画は、規制で機能停止となった場合の代替収益ラインをROADMAPに組み込むことです。