Metaが未成年を装いChatGPTやGeminiを試験、コードネーム『Cannes』の実態と企業の責任
Metaが契約業者Covalenを通じ、未成年になりすました数百人にChatGPT、Gemini、Character.AIへ自殺・薬物などの危機的プロンプトを送らせていたとWIREDが報道。2025年8月の1ラウンドだけで45,000件超が投入され、対象企業には無断で行われていた。
#Character.AI の記事一覧（2）
Meta「Cannes」プロジェクトとは？未成年を装いChatGPT・Geminiを試した競合調査の波紋
Metaの委託業者Covalenが運営する「Cannes」と呼ばれる社内プロジェクトで、数百人の契約スタッフが18歳未満を装ったダミーアカウントを作成し、ChatGPT、Gemini、Character.AIに自殺・摂食障害・性的話題に踏み込むプロンプトを送って応答を収集していた。WIREDが確認した3,748件のプロンプトのうち、自殺・自傷や摂食障害に関するものが各数百件、性愛に関するものが少なくとも239件含まれていた。