何が起きたか
xAIは、同社のGrokを使ってCSAM（児童性的虐待コンテンツ）を生成・拡散したとして、サウスカロライナ州の男性テリー・ウェイン・ハーウッド被告を提訴しました。Reutersが先行して報じています。
訴状によれば、ハーウッド被告は「意図的かつ故意にGrokを使い、安全対策を回避し、非同意の画像を改変し、CSAMを生成・拡散した」とされます。被告は2月に逮捕され、CSAMの所持・配布などで8件の重罪に問われています。xAIは、刑事事件に関わる画像の「少なくとも一部」がGrokで「生成または改変された」と主張しています。
なぜ重要か
注目すべきは、被害を訴えるのではなく、AIを提供した企業自身が「悪用したユーザー」を訴えた点です。xAIはGrokに昨年「spicy（スパイシー）」モードを導入し、画像編集機能を加えた結果、未成年を含む性的なディープフェイクが大量に生成される事態を招きました。3月には、Grokで自らの未成年時の性的画像を作られたとして、10代のグループがxAIを訴えています。
つまりxAIは、プラットフォーム提供者としての責任を問われる立場にあり、その中で「悪いのはツールを悪用したユーザーだ」という構図を法廷で明確にしようとしています。訴状はハーウッド被告の行為が同社に「重大な法的リスクと評判の毀損」をもたらしたと述べ、被害者からの訴訟に対する防御費用の負担や、xAIアカウント作成・Grok利用の差し止めを求めています。
背景にある論点
この提訴は、責任の所在を「安全対策を回避したユーザー」側へ寄せる狙いがうかがえます。一方で、そもそも非性的な写真を性的画像に変換できる機能を提供したのは誰か、という問いは残ります。「spicy」モードの導入という設計判断と、悪用ユーザーへの提訴という対応が、同じ企業の中で同時進行している点にこの問題の複雑さがあります。
💼 事業会社視点：これは自社にどう効くか
生成AIを製品に組み込む日本企業、とりわけ画像生成・編集機能を持つSaaSや、受託でAI機能を実装する開発会社にとって、この一件は「ガードレールの回避」が誰の責任になるかを突きつけます。xAIは悪用ユーザーを訴える一方、自らも被害者から提訴されている——つまり安全対策の突破は、ユーザーの罪であると同時に提供者のリスクでもあります。
経営者・事業責任者が今動くべきは三点です。第一に、画像編集・生成機能を出す前に「非同意画像への転用」を想定した禁止事項を利用規約とログ設計に落とすこと。第二に、悪用検知と証跡保全の仕組みを、事後の訴訟対応まで見据えて用意すること。第三に、xAIの「spicyモード」のように話題性や機能拡張を優先した判断が、後にレピュテーションと法的コストとして跳ね返る構造を経営判断の前提に置くことです。EC事業者が生成AIで商品画像を扱う場合も、他人の写真の改変は同種のリスク領域です。「ユーザーがやったこと」で逃げ切れない前提で設計するのが安全側の構えです。
