何が起きたか

xAIは、ミネソタ州のnudification規制を憲法修正第1条違反として提訴しました。同法は2026年8月1日に施行予定で、対象画像1枚あたり50万ドルの厳格責任を課します。xAIの訴状によれば、違反画像が10枚で最大500万ドル、1000枚で最大5億ドル、10万枚では最大500億ドルに達します。同社は「数百万のユーザーが数十億枚の画像を生成する公開プログラムでは10万枚はまったくあり得ない話ではない」と述べています。さらに同法は被害者に個別の出力ごとの訴権を与えるため、財務リスクが増大するとしています。

xAIの主張の核心は、規制の射程が広すぎるという点です。芸術的・科学的・政治的・風刺的・教育的・医療的・宗教的価値を持つヌード画像も対象に入り、描かれた本人が同意していても、本人自身が作った画像でも、一度も共有されていなくても責任が生じる——同社はこれを「nudificationを禁じようとする不器用な試み」と表現し、保護された表現を広範に巻き込むと訴えています。より制限的でない手段があるはずで、配布による被害はTake It Down Actで既に対処済みだ、というのが同社の立て付けです。

なぜ重要か

この訴訟の実質的な争点は、AI事業者に「セーフハーバー（免責の枠）がない厳格責任」を課したとき何が起きるかです。xAIは、法があるからこそ機能を制限するのであり、法がなければ画像編集機能を今日のまま提供し続けたと明言しています。つまり規制の存在が、直接的にプロダクト仕様を書き換えている構図です。

興味深いのは、xAIが訴状の中で、6か月以上にわたる批判と調査圧力を受けてようやくGrokの有害出力ブロックの実装を準備していたと認めている点です。同社の従来の防御線は「利用規約」でした。CSAMや非同意の性的画像（NCII）の生成を規約違反としてユーザーをBANする、という事後対応型のガバナンスです。xAIはその体制の維持を望んでいたと述べています。

論点は「誰がリスクを負うか」

生成AIの責任配分は、これまで「ユーザーが規約に違反した」という構図に寄せられてきました。1枚50万ドルの厳格責任は、その配分を事業者側に一気に移します。事業者が負う金額が生成量に比例して線形に膨らむため、スケールそのものがリスク要因になります。数百万ユーザー・数十億枚という規模は、従来なら成長の証でしたが、この法の下では損害賠償の乗数に変わります。

xAIが「保護された表現が萎縮する」と主張するのは修正第1条の定型的な論法ですが、実務的には、事業者が萎縮を避けるための現実的手段が「機能そのものの停止・制限」しかない点が本質です。金額の上限が事実上ないなら、線を引くコストより機能を落とすコストの方が安くなります。

💼 事業会社視点：これは自社にどう効くか

日本企業の役員が読むべきは「州法の中身」ではなく「セーフハーバーなき厳格責任が、プロダクトの機能設計を直接書き換える」という構造です。xAI自身が、法がなければ機能を今日のまま提供したと訴状で認めています。

生成AI機能を載せるEC・SaaS事業者にとって、実務的な含意は3つあります。第一に、画像編集・アバター生成・人物写真の加工といった機能は、規制側から見れば「nudificationの入口」に分類され得ます。米国向けにサービスを出している、あるいは今後出す予定なら、州単位で機能をオフにできるフラグ設計を先に入れておくべきです。施行日の直前に慌てて実装するのは最悪の順番です。

第二に、利用規約とBAN運用だけをガバナンスの柱にしている設計は、賠償リスクの受け皿として機能しません。xAIが望んだのはまさにその体制でした。出力側のフィルタリングをどこに置くか、ログをどう残すかが、法務ではなく開発の設計課題になります。

第三に、AI機能の受託開発を請け負う企業は、契約書の責任範囲を見直す局面です。1枚あたりの厳格責任という設計は、開発費の数十倍の賠償が単一機能から発生し得ることを意味します。「出力の適法性は発注者責任」という条項が実際に機能するのか、施行前に確認しておく価値があります。