何が起きたか
xAIは、Grokを使い違法コンテンツを生成した利用者として初めてTerry Wayne Harwood氏を提訴しました。同氏はCSAMの所持・配布容疑で今年逮捕され、South Carolina州司法当局によれば案件は係属中です。xAIは訴状で、Harwood氏が2つのアカウントを数カ月にわたり使い、10歳ほどに見える少女を含む複数の被害者の非性的な画像を「脱衣」「ヌード化」させたと主張しています。生成期間は12月8日から2月18日とされます。
この提訴は、別の集団訴訟の約1週間後に起きました。そこでは、継父がGrok等で自分の性的画像7,000点を生成しダークウェブで配布していたことが発覚し自殺したと少女が訴え、xAIが利用者特定への協力を拒んだと主張しています。原告側は、xAIのCyberTipline通報の90%が「加害者を追跡できる利用者情報をxAIが含めなかったため、捜査機関が対応できなかった」とする2026年のNCMEC報告を引用しました。
なぜ重要か
xAIの主張の核心は「Grokは利用者の指示に従う中立的なツールであり、あらゆる出力は利用者のプロンプトの結果」というものです。利用規約は実在人物の脱衣や性的描写、児童の性的搾取を禁じており、xAIはHarwood氏が規約に「あからさまに違反」し「誤誘導プロンプト」で安全機構を「回避しようと相当な労力を払った」と述べます。契約違反として訴えるのは、多額の訴訟費用と、被害者がxAIを訴えた場合の損害賠償リスクを避けるためだとも説明しています。
論点
xAIが求めるのは、Grokが生成したCSAMやNCII(非同意の性的画像)について、入力・出力の双方で利用者のみが責任を負うとする免責条項の裁判所承認です。これは数千人規模とされる潜在的集団訴訟での防御を強める狙いがあります。ただし米著作権局はAIの出力を人間の創作物とみなしておらず、「画像を作ったのは利用者」という論理には綻びが生じ得ます。またxAI自身、7,000点の有害出力のうちNCMECに通報したのは「集団レイプ」を描くよう求めた1件のみだったと集団訴訟で指摘されており、プラットフォーム側の運用姿勢そのものが問われています。
出典: Ars Technica
💼 事業会社視点：これは自社にどう効くか
この訴訟の本質は「生成AIの出力責任を誰が負うか」という、あらゆるAI事業者に共通する設計問題です。日本のSaaSや受託開発でも、自社サービスに画像・文章生成AIを組み込む際、利用規約で「出力責任は利用者」と書けば免責されるという前提は危うい——xAIですら裁判所の承認を求めて提訴している段階であり、規約の一文で守り切れる保証はありません。役員が今確認すべきは3点です。第一に、生成AI機能のログと利用者情報を、捜査照会に応じられる形で保全しているか。xAIは通報の90%が利用者情報を欠き実効性がないと批判されており、同じ姿勢は日本ではレピュテーションと行政対応の両面で致命傷になります。第二に、安全機構(ガードレール)の回避を検知・通報する運用が回っているか。「規約で禁じた」だけでは、事後の被害に対する説明責任を果たせません。第三に、AI生成物を自社が二次利用する場合、著作権局の見解のように「人間の創作物ではない」とされるリスクを織り込んでいるか。免責と権利帰属は表裏一体であり、契約テンプレートの再点検を法務に指示すべき局面です。