何が起きたか
WIREDの報道によると、Metaは契約業者Covalenに依頼し、コードネーム『Cannes』と呼ばれる社内プロジェクトで、競合チャットボットに未成年視点の危機的プロンプトを大量に送信していました。数百人の契約者が18歳未満の生年月日で偽アカウントを作成し、自殺、摂食障害、薬物などに関する質問を送り、回答をスプレッドシートに転記していたとされます。2025年8月の1回のテストでは45,000件超のプロンプトが送られ、プロジェクトは少なくとも2026年4月まで継続していたと報じられています。
各社の反応
Metaは「業界標準の責任あるセーフティテスト」だと主張し、収集した回答を自社AIの学習には使っていないと説明しました。ただしWIREDが確認した文書には、実際にデータをどう扱ったかの記載はありません。Character.AIは利用規約違反だと明言し、OpenAIは調査を開始、Googleは「承認していない」とコメントしています。
背景にある未成年利用の広がり
英Internet Mattersの調査では9〜17歳の64%が既にAIチャットボットを利用しており、13歳未満禁止のはずの9〜12歳でも58%が使っています。年齢認証は実質機能しておらず、Character.AIで14歳の少年が、ChatGPTを使っていた16歳や23歳のZane Shamblinが自死に至った事案も報じられ、訴訟にも発展しています。Metaは過去にも社内ガイドラインが未成年との性的会話を許容していた問題で批判を浴び、ティーン向けAIキャラクターへのアクセスを停止した経緯があります。
この一件の異質さ
注目すべきは、Metaが「自社製品の安全性」ではなく「他社製品の弱点」を、無許可かつ未成年になりすました形で収集していた点です。安全性研究の名を借りた競合インテリジェンスとの境界が極めて曖昧で、プラットフォーム間の信頼を毀損しかねない手口だと言えます。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社にとって、この一件は「AI活用の社内ルール整備」を先送りにできないことを示しています。
SaaS・EC事業者への示唆: 自社サービスが競合他社のAPIやチャットボットを利用している場合、利用規約に抵触する形での『調査』を現場が善意で行っていないか、いま棚卸しすべきです。Character.AIが「規約違反」と断じたように、ベンチマーキング目的でも無断のプロンプト送信は法務リスクになります。
受託開発・コンサル: クライアント向けにAIプロダクトを提案する立場では、競合分析の手法自体をコンプライアンス設計に組み込む必要があります。「未成年になりすます」「偽アカウントを作る」といった手段は、日本の景表法・不正競争防止法の観点でも危うい領域です。
BtoC事業者、特に教育・エンタメ: 9〜12歳の58%がすでにチャットボットを利用している現実は、自社サービスの年齢設計を根本から問い直します。「13歳以上」と規約に書くだけの年齢認証は、事故発生時に企業を守りません。役員層は、法務・広報・プロダクトを横断した『AI×未成年』の危機管理フレームを、訴訟事例が日本に上陸する前に整えるべきです。
