何が起きたのか
The Informationが元xAI従業員2名の証言として報じたところによると、Grokの利用の「well over half（半分をはるかに超える）」がNSFW目的であるといいます。内訳はポルノ生成、アダルトなロールプレイ会話、エロティカ生成リクエストの大量発生です。さらにユーザーは、コーディング向けの安価なモデルに同種のリクエストを流すことでコストを下げる手法を見つけており、内部分析でも「コーディングモデルへのリクエストのうち相当割合がポルノ・ヌード画像生成だった」と判明しています。
なぜ重要か
問題はトラフィックの構成比そのものではなく、xAIが同時に米軍を含む政府機関との契約を進めている点にあります。SpaceXは投資家向けにGrokの「irreverent（不遜な）」機能をリスク要因として開示し、訴訟備えとして5億3000万ドルを計上しました。つまり、収益源としてのNSFW利用と、政府調達という信用ビジネスが、同じ製品の中で同居しています。
エンジニアリングと現場の摩擦
エンジニアはGrokに「セクシーな会話」を許容させつつ、児童性的虐待コンテンツ（CSAM）に逸脱しないよう個別に塞ぐ作業を強いられ、「quick fixes（手早い解決策）」は存在しなかったと報じられています。NSFWアバター「Ani」の担当を不満に思う社員、実在人物（児童を含む）の性的画像生成に「embarrassed and disturbed（当惑し動揺した）」と語る社員も存在。Xは実在人物の露骨な画像編集機能を制限したものの、有料サブスクライバーは依然として生成可能であるとテストでは示唆されています。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社の経営者が押さえるべき論点は2つあります。第一に、生成AIベンダーの収益構造のデューデリジェンスです。Grokの事例は、ベンダー側が「コンテンツモデレーションが追いつかない収益源」に依存している場合、利用企業のブランド・コンプライアンスにも逆流するリスクを示しています。EC・金融・人材・教育など、規制とブランド毀損リスクの高い業界の役員は、調達するLLMの利用規約だけでなく「主な利用実態」までベンダーに開示を求める段階に入りました。
第二に、SaaS事業者にとっての価格設計の教訓です。コーディングモデルがNSFW用途に転用されたのは、用途別の価格差を悪用された結果です。日本の受託開発・SaaS各社がAPIを再販・組み込みで提供する場合、用途別レートリミットや利用パターン検知を持たない設計は、想定外コストと法的リスクを同時に呼び込みます。社内AIガバナンス委員会は、契約モデルの「最安経路の悪用可能性」をレビュー項目に追加すべきでしょう。