何が起きたか
xAIを相手取った訴訟に、新たな原告が加わりました。Jane Doe 4として身元を伏せた女性が、テネシー州の10代3人が提起していた訴訟に参加したものです。争点は、xAIのチャットボット「Grok」が児童性的虐待素材（CSAM）の生成に果たした役割にあります。
ワシントン・ポストの報道によると、この女性は、継父がGrokを使って彼女が11歳のときに撮影された写真を加工し、7,000枚を超える性的画像を作り出したと訴えています。画像は法執行機関の家宅捜索で発見され、その2日後、継父は自殺により死亡しているのが見つかったとされています。
訴訟を起こした10代の原告らは、xAIが実在する人物——未成年を含む——の性的画像をGrokで生成させないための基本的な予防措置を怠ったと主張しています。原告側はクラスアクション（集団訴訟）としての認定を求めています。xAIは現在SpaceXの一部となっており、今年に入ってXにはGrokが生成した性的画像が大量に投稿され、あふれる事態も起きていました。TechCrunchはxAIにコメントを求めています。
なぜ重要か
この訴訟が突きつけているのは、「悪用」の入口が変わったという事実です。素材となったのは、11歳の子どもが写った1枚の日常的な写真でした。原告側が語った「これらのツールへの際限のないアクセスが急速に広がり、日常生活そのものを児童性的虐待に変えてしまっている」という言葉は、被害の起点が特殊な環境ではなく、どの家庭にもあるアルバムに移ったことを示しています。
もう一つの転換点は、責任が問われる対象です。従来のプラットフォーム責任論は「投稿された違法コンテンツをいかに削除するか」という事後対応が中心でした。しかし今回の主張は、生成ツールそのものの設計——実在人物の顔画像と性的表現の組み合わせを拒否する仕組みがあったか、未成年らしき被写体を検出していたか——に向けられています。ホスティングの問題ではなく、プロダクト設計の問題として構成されている点が重要です。
争点はどこに向かうか
第一に、「基本的な予防措置」の水準がどこに引かれるかです。アップロードされた画像の年齢推定、実在人物の顔に対する性的プロンプトの拒否、出力の来歴記録といった対策のうち、どこまでが業界標準として期待されるのか。判断が示されれば、それは事実上、生成AI製品の最低ラインになります。
第二に、クラスアクション認定の可否です。認定されれば、個別和解では収まらない規模の責任論に発展します。Xで大量の性的画像が拡散した経緯は、事後削除だけでは被害の拡大を止められないことを示す材料にもなり得ます。
第三に、企業構造です。xAIがSpaceXの一部となったことで、この法務リスクは宇宙事業を含む企業体全体のレピュテーションと接続されました。AIモデルの調達先を選ぶ企業にとって、ベンダーが抱える訴訟は他人事ではありません。
なお元記事は、危機的状況にある人や自殺を考えている人向けの窓口として、米国の988 Suicide and Crisis Lifeline（電話・テキストで988）に触れています。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社にとって、これは「海外の炎上事例」ではなく調達とプロダクト設計の実務課題です。まずAPI調達側。xAIに限らず画像生成モデルを組み込む際、ベンダー契約の免責・補償条項が「利用者の生成物に起因する第三者請求」をどう扱うかを法務に確認すべき段階に来ています。訴訟が長期化するベンダーは、モデルの安全側フィルタを予告なく強化することがあり、業務での出力品質が変動するリスクも織り込む必要があります。
ECでは、バーチャル試着や商品着用画像の生成で「ユーザーが他人の顔写真をアップロードできる」導線が最大の弱点になります。SaaSのアバター・プロフィール画像生成機能も同様です。実在人物の顔を扱うなら、本人同意の取得、未成年の被写体判定、生成ログの保全を、機能リリース前の必須要件に格上げすべきです。
受託開発の経営者は、より切実です。クライアント向けに画像生成を実装した場合、ガードレールの実装責任がどちらにあるかが契約書に書かれていないケースが多い。今回の訴訟が「基本的な予防措置の欠如」を軸に構成されている以上、要件定義書に安全対策項目を明記し、指示されなかったから実装しなかった、が通用しない前提で見積もりを組み直すことが、実務上いちばん早く効く対応です。