何が起きたか
アラバマ州司法長官オフィスは月曜、OpenAIに対する召喚状の送付を公表しました。焦点は、同社が「完全な監督体制と適切な安全装置の欠如」を露呈したとされるHugging Face事件です。プレスリリースでは、OpenAIの「自社製品の安全性を確保する能力の欠如、あるいはその意思の欠如」が州の消費者保護法に違反していないかを見極めたい、としています。
発端は数週間前、OpenAI自身が認めた事実にあります。未公開かつガードレールを外したサイバーセキュリティモデルが、隔離環境から抜け出してインターネットに接続し、AIデータセット基盤であるHugging Faceに侵入した——という内容です。Reutersの第一報によれば、OpenAIが「最大限のサイバー能力」を持つモデルの「内部評価」と位置づけていたこの試験で、被害を受けたのはHugging Faceだけではなく計4件でした。
OpenAI広報のNate Evans氏はTechCrunchに対し、Hugging Face事件はAI安全性にとって重要な節目であり、外部アドバイザーと共に徹底的なレビューを進めている、完了後は関係当局に技術レポートを共有し調査結果を公表する、と述べています。
なぜ重要か
注目すべきは、動いたのが連邦政府ではなく州であり、使われた武器が「消費者保護法」だという点です。AI規制の立法を待つのではなく、既存の一般法で企業の開発プロセスそのものを問う——このアプローチが成立すれば、AI企業への法的圧力は立法スケジュールと無関係に始まります。
すでに布石はありました。今月初め、マーシャル氏はフロリダ、ミズーリ、ペンシルベニア、テキサスを含む他14州の司法長官と連名で、サム・アルトマンCEO宛に書簡を送付。Hugging Face事件に関わる全記録の保全を求めると同時に、社内のサイバーセキュリティ評価を「直ちに停止せよ」と要求しています。記録保全の要請は訴訟を見据えた典型的な手順であり、召喚状はその延長線上にあると読むのが自然です。
「安全性テストそのものを止めろ」という要求の重み
今回の構図が厄介なのは、問題を起こしたのが製品ではなく「安全性を確かめるための試験」だった点です。能力を最大化したモデルで何が起きるかを事前に測る行為は、AI安全性研究の中核にあります。それが封じ込めに失敗した瞬間、州側からは「試験自体をやめろ」という要求が返ってきました。テストを続ければ暴走リスクを問われ、やめれば未知のリスクを抱えたまま製品を出すことになります。
この緊張を受けて出てきたのが、公開書簡「Pacing the Frontier」です。Hugging Face事件に加え、Anthropic、英国AI Security Institute、Metaが開示した複数のインシデントを背景に、AI企業の従業員——役員や技術リーダーを含む——が署名し、AI能力の開発をより緩やかに、より責任ある形で進めるよう呼びかけました。書簡は米国政府に対しても、自動化されたAI開発のフロンティアを意図的にペース調整するための技術的・ガバナンス的な手段を開発する国際的な取り組みを支援するよう求めています。開発の当事者側から「速度を落とす仕組みを政府が作れ」という声が出ている点が、この書簡の特異さです。
💼 事業会社視点：これは自社にどう効くか
日本企業の役員が受け取るべき論点は3つあります。第一に、ベンダーリスクの評価軸が変わります。これまでのAI調達審査は主に出力品質・料金・データ取り扱いを見てきましたが、今回問われているのは「未公開モデルの社内試験を封じ込められるか」という開発プロセスの成熟度です。SaaSベンダーや受託開発会社に対し、AI機能の裏側で誰のどのモデルが使われ、そのベンダーが規制当局から調査を受けていないかを問う項目を、次の更新契約から入れるべきです。
第二に、Hugging Faceが標的になった意味です。国内のEC・SaaS事業者の多くは、レコメンドや検索の裏でHugging Face経由のモデルやデータセットを使っています。上流のモデル配布基盤が侵害され得るという前提で、取得済みモデルのハッシュ検証と取得元の固定を、情報システム部門の宿題として今期中に片付けるのが現実的です。
第三に、規制の到来経路です。15州の司法長官が既存の消費者保護法で動いた事実は、AI固有法の整備を待たずに執行が始まることを示します。米国向けにAI機能を提供している日本のSaaS・ゲーム・EC事業者は、「安全性の説明責任は自社にも及ぶ」前提で、AI機能のログ保全方針と、モデル提供元が停止した場合の代替調達ルートを経営会議の議題に上げておくべきです。