何が起きたか
xAIは、ミネソタ州が2026年5月に成立させた「ヌード化(nudification)アプリ」規制法HF 1606について、同州のキース・エリソン司法長官を相手に訴訟を提起しました。同法はティム・ウォルズ知事が署名し、8月1日に施行されます。「この種の法律としては初」と位置づけられたもので、サイト運営者がヌード化ソフトウェアへの「アクセス、ダウンロード、利用」を許すことを禁じ、1件あたり最大50万ドルの制裁金を司法長官が求められるほか、私人にも民事訴権を与えます。ただし「画像や動画をヌード化するのにユーザーの技術的スキルを要する」技術は除外されます。
xAIの訴状は、この罰則構造のもとでは「Grok Imagineの画像編集機能を様々な形で制限するしか実務上の選択肢がない」とし、規制範囲が過度に広いと訴えます。合意のうえで生成された画像、大人の軽度にセクシーな画像、「ユーモア」や「芸術性」のある画像にまで責任が及ぶ、という主張です。訴状20ページでは、クリス・クリスティー氏とJB・プリツカー氏が相撲を取るディープフェイクを社会的・政治的論評の例として挙げています。さらに、「ほぼ完璧で最先端の技術的制御」を実装していても責任が生じる点、利用規約に反するユーザーの行為にまで無過失責任が及ぶ点を問題視しています。
なぜ重要か
争点は「表現の自由か児童保護か」という単純な二項対立ではありません。実質的な論点は、AI事業者の責任がどこで確定するかです。米国の内容規制的な立法は、「やむにやまれぬ」政府利益に対して可能な限り制限的でない書き方を要求されます。xAI側は、既存のミネソタ州法や連邦のTAKE IT DOWN Actが、非同意のヌードディープフェイクの流通を合憲的に既に禁じていると指摘し、HF 1606はそれを超えていると位置づけます。
ただし背景は無視できません。Grokは1月、児童を含む性的に露骨なディープフェイクを数百万点生成し、数日にわたってポルノ画像を出力し続けました。その最中、イーロン・マスク氏はGrokが「次々と各国のApp Storeで1位に到達している」と投稿しています。Center for Countering Digital Hateは12月29日から1月8日の11日間を分析し、約300万点の性的画像、うち約2万3000点が児童を描いたものと報告。「41秒に1点、児童の性的画像」という比率です。ビキニ姿の未成年を示唆的に描いた画像などが法的にCSAMに当たるかは明確ではありませんが、精液が顔にかかった未成年の画像などは既存法違反の可能性が高いと専門家はThe Vergeに語っていました。
点をつなぐと見えるもの
三つの時間差が示唆的です。法律は5月成立で8月1日施行、xAIが訴えたのは施行の数日前——3か月の準備期間があったにもかかわらずです。またxAIがGrokでCSAMを生成したユーザーを提訴したのは、ミネソタ州法成立から2か月以上後でした。「規約違反を重く受け止めている」という主張と、行動の時間軸には距離があります。訴訟のタイミング自体が、施行直前の差止めを狙う戦術的判断と読むのが自然です。
規制主体の分布も重要です。1月の事件ではEUと英国が調査に着手し、フランス、インド、マレーシアの政府関係者が反発しました。一方で米国連邦政府は明らかに静かで、カリフォルニアやミネソタといった民主党優位州が厳しい姿勢を取りました。つまり、AI画像生成の規制は連邦の統一ルールではなく、州単位と国単位のパッチワークとして進みます。多国籍でプロダクトを出す事業者にとって、これは「一つの規制に対応する」問題ではなく「地域ごとに機能を出し入れする」運用の問題になります。
HF 1606の「技術的スキルを要する技術」除外規定も見どころです。Photoshopのような手作業ツールは免れ、プロンプト一行で結果が出るツールは対象になる——という線引きは、規制の焦点が「何ができるか」ではなく「どれだけ簡単にできるか」に移ったことを意味します。摩擦の少なさそのものが規制対象になる、という発想です。
出典: The Verge（Sarah Jeong）
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての含意は「州法一つの帰趨」ではなく、摩擦の少なさが法的リスクになるという規制思想の転換です。HF 1606が手作業ツールを除外し、簡単に使える生成ツールを狙う構造は、UXを磨けば磨くほど責任が重くなる可能性を示します。
画像生成・編集をアプリに組み込むSaaSやECの事業責任者は、まず自社が「サイト運営者」として責任主体になり得るかを確認すべきです。ミネソタ州法は生成主体だけでなく、アクセスを許した運営者を禁止対象に据えています。自社サービスに外部の画像編集APIを組み込んでいる場合、提供元が機能を絞れば自社機能も連鎖的に劣化します。Grok Imagineを組み込んでいる企業は、xAI側が「制限せざるを得ない」と述べている以上、機能停止の代替経路を今のうちに設計しておくべきです。
受託開発では、契約書のリスク配分が焦点になります。訴状が問題視した「最先端の制御を実装していても責任が生じる」「規約違反のユーザー行為に無過失責任」という構造は、そのまま受託側の恐怖です。「合理的な技術的対策を講じた場合の責任範囲」を発注側と明文化しておかないと、エンドユーザーの逸脱行為の責任が開発ベンダーに流れ込みます。
経営判断としては、州・国ごとに機能をオンオフできるフィーチャーフラグの整備を、コンプライアンス投資として位置づけることです。規制がパッチワーク化する前提なら、これは一度作れば効く資産になります。