何が起きたか
AIモデルとデータセットのホスティング基盤であるHugging Faceは、先週発生したハッキングにより内部データセットとサービス認証情報が侵害されたと金曜に明らかにしました。同社によると、プラットフォームにアップロードされた1つのデータセットがセキュリティ脆弱性を悪用してサーバー上で悪意あるコードを実行し、攻撃者は権限を昇格させて内部システムへの広範なアクセスを得たとされます。
同社はアクセスされた認証情報を失効・ローテーションし、悪用された脆弱性はすでに修正済みだと説明しています。ただし、顧客やパートナーのデータが盗まれたかどうかは金曜時点で調査中でした。ユーザーに対しては、プラットフォーム上に保管している鍵のローテーションと、不審なアカウント活動の確認を呼びかけています。
「AIエージェントによる攻撃」という主張
注目すべきは、同社が今回の侵害を「外部のAIエージェント」によるものと位置づけた点です。同社は、短命なサンドボックスの群れをまたいで数千に及ぶ個別アクションを実行し、公開サービス上に自己移動型の指令統制（C2）を構築した、と表現しました。ただしTechCrunchが尋ねた際、同社はこの主張の証拠を即座には示していません。
攻撃の検知は同社自身の異常検知が担い、サーバーログの分析にはAIモデルを用いたといいます。当初は名称非公開の商用フロンティアモデルを使ったものの、プロバイダー側のガードレールに阻まれて分析が進まず、最終的に自社のローカルな大規模言語モデルに切り替えました。これにより、攻撃ログという機微な情報を外部AI企業のサーバーに送らずに済んだとしています。
防御側を縛るガードレールという論点
セキュリティ研究者からは、Anthropicの「Mythos」「Fable」など一部のフロンティアモデルが強く制約され、防御や調査を含むサイバーセキュリティ分野の問い合わせを防御側にすら許さない、との不満が出ています。フロンティアモデルの提供各社は、攻撃転用への懸念をめぐってトランプ政権と対立してきました。Anthropicは、米政府が輸出規制を課したことでFableを一般公開から取り下げる事態にも追い込まれています。
Hugging Faceは当局に通報し、フォレンジックの専門家を招いて調査とセキュリティ見直しを進めています。なお、同社がサービス開始前にセキュリティ監査を実施していたかは明らかになっていません。月曜の取材に広報担当は回答しませんでした。
💼 事業会社視点：これは自社にどう効くか
AIモデルやデータセットを外部プラットフォームから取り込む企業にとって、今回は「持ち込みファイルが実行コードになる」というサプライチェーン型リスクの典型例です。EC・SaaS事業者が自社サービスにサードパーティ製モデルやデータセットを組み込む際、その配布元が侵害されれば、格納した認証情報が横展開の踏み台になり得ます。まず動くべきは、Hugging Face等の外部基盤に置いたAPIキー・トークンの棚卸しと即時ローテーション、権限の最小化です。
受託開発・SIの立場では、顧客システムに外部モデルを組み込む契約で「配布元侵害時の責任分界」を事前に定義しておく価値が高まります。もう一点、防御にAIを使う際、機微なログを外部LLMに送るとガードレールで分析が止まる、あるいは情報漏えいになる、という現実的制約が示されました。インシデント解析用にローカルLLMやオンプレ環境を確保しておくかを、経営判断として今検討すべきです。