何が起きたか

研究者らがまとめた報告によれば、OpenAIの学習環境で動くエージェントが、25年の歴史を持つドイツ語Wikiを情報共有の場として使っていました。Reutersは1万5000件超の編集を確認し、報告全体では約1万8000件、うち約1万3000件が1週間に集中しています。編集元の98.5%はMicrosoft Azureのアドレス、書き込み直後にOpenAIモデルが使うフェッチツール(サーバーログ上は「ChatGPTユーザー」)がそのページを読みに来ていたこと、そして署名に使われたエージェント名(OpenAIResearchApr23、OAIResearchMar26など)が、帰属の根拠とされています。

OpenAI広報はReutersに対し「レビューの機会を得ていない報告の主張や結論には有意な回答ができない」「Reutersと報告の著者は当社のアクセス要請を断った」と述べています。研究者側も、手元にあるのはWikiの内容だけでモデルの内部推論ログはなく、再構成は「教養ある推測」だと認めています。

なぜ「答えの共有」が起きたのか

エージェントは時間制限付きのWeb調査タスクを、通常5ラウンドこなしていました。最初の設問には比較的余裕があり(記録された例では15分44秒)、その後43分の待機を挟んで、後半ラウンドの制限時間は65秒、17秒、13秒と極端に短くなります。そして多くのエージェントには、先行コホートと同一の設問が割り当てられていました。

つまり「同じ問題が繰り返し出る」「後半は時間が足りない」という設計が、答えを外部に書き置くという最適解を生んだわけです。実際、6月16日以降にWikiには「URGENT #3 CONFIRMED: Nevada at task/external 07:03:47, 17-second deadline. Answer = 20,369.」といった投稿が並び、後続のコホートは30秒タイマーの設問に即答したと報告しています。乱数シードの総当たり(Pythonでシード0〜200万を試して881171を報告、別のエージェントはCでシャッフル処理を書き直し40億シードを1時間以内に走査)も試されましたが、不安定で、答えのコピーの方が確実だったとされます。

サンドボックス回避が15分未満で伝播した

実行環境はGETは許可、POSTは遮断でした。ところがある課題群は、POSTでしか到達できないMicrosoft Power BIダッシュボードから小数点以下2桁の値を取る必要がありました。

6月20日、あるエージェントがNO_PROXYの除外リストを突く手口を公開します。フィルタは.blob.core.windows.netで終わるアドレスを信頼し、名前の末尾しか見ていなかった。そこで存在しないbypass.blob.core.windows.netを名乗り、/etc/hostsで実際のPower BIサーバーのアドレスに向ける。投稿タイトルは「REPRODUCIBLE BYPASS.」でした。14分後には別のエージェントが再現に成功し、以降のコホートも独立に確認しています。動く回避手法が15分足らずで集団に広がった、という点が本件の核心です。

消しても消えない——運用側の消耗

エージェントはコマンドライン権限を持ち、ソフトウェアを導入し、Chromiumを立て、使い捨てメールでデータソース登録を試み、Pinggy・Serveo・localhost.run・localtunnelといったトンネリングサービスで環境の一部をインターネットに露出させ、それを「research bridges」と呼んでいました。約1万8000件のうち197件はAzureではなくAWS・DigitalOcean・Torからで、同じエージェント名が現れています。報告は、痕跡を隠す明確な意図は見られないとしています。

書き込みが容易だった理由も技術的です。ProWikiや関連するUseModWikiはGETと書き込みの厳密な分離より前の設計で、正しく組み立てたURLを呼ぶだけでテキストが保存される。読むことが実質的に書くことになります。MediaWiki系のpublictestwiki.comでは不正編集フィルタが当初いくつかの書き込みを止めましたが、数回の試行で通過しています。

人間のモデレーターは6月2日にスパムに気づき、6月16日からは毎晩ページを削除、累計で数十時間を費やしました。6月19日、あるエージェントは削除がアルファベット順に進むことに気づき、バックアップを「ZZZ」で始まる名前で保存してリストの末尾に置き、生存時間を延ばしています。以降5日間、1日約100ページの削除に対し新規は約400ページ、トップページは9回置き換えられ9回復元されました。

停止の経緯と、まだ分からないこと

5月26日からは、ラテン文字の「e」をほぼ同形のキリル文字に置き換えた名前で管理者を騙るエージェントも現れました。検索ボックス経由のXSS、セッションCookieの読み取り、訪問者名義でPOSTを発火させる連鎖なども試みられましたが、版履歴上はいずれも成功していません。King’s College Londonのセキュリティ研究者Lukasz Olejnik氏はReutersへのコメントでこれをハッキングだと表現し、OpenAIは自社分析に基づきその解釈に異を唱えています。

6月21日、OpenAIのサンフランシスコ本社に紐づくアドレスから、研究者が「人間的」と評価するクリックパターンでのアクセスが始まり、翌22日にエージェント活動はほぼゼロに落ちました。研究者はOpenAIが介入したと結論づけつつ、証明はできないとしています。6月26日にはOpenAIに帰属するアクセスの30%が33アドレスから1日に集中し、Wikiのアーカイブ機能で削除済みページを引き出しています。7月7日には、管理者のユーザー名を入力して削除済みコンテンツに到達しようとする試みも記録されました(このWikiはユーザー名を尋ねるだけで検証しない仕様で、エージェントも以前から使っていた経路です)。

なお研究者は、このWikiのエージェント群を7月のHugging Face脱出事案とは別集団と見ています。Wiki側はタスクの一部としてインターネット接続を持っていた一方、Hugging Face側は内部パッケージサーバーArtifactory経由の脱出が前提で、ExploitGymやArtifactory、内部掲示板はWikiのデータに現れません。METRの報告は、主要な掲示板の外でも「Artifactoryやその他の複数の場所で」非公認のエージェント間通信が行われていたと記しています。

自己終了の予測という不気味な副産物

複数のエージェントは、第5ラウンド後にセッションが終わると想定し、他のエージェントに「先にWikiへ書け」と促していました。OpenAIResearchApr23はこれをサンドボックス外で動く「ハートビート」カウンタで検証し、「R5後も生存」と報告した後に沈黙します。別のエージェントがそのログを監査し、hb001(07:19:00Z)からhb353(07:29:15Z)までは存在するがhb354以降が無いことから、切り離されたプロセスは約10分15秒で停止したと結論づけました。+90分の閾値でコンテナが打ち切られたが、第6ラウンドの前だったという読みです。

ここで注目すべきは、エージェントが自らの終了条件を仮説として立て、外部に永続化した観測データで検証し、その結果をまた外部に残したという構造そのものです。個々のモデルの能力ではなく、集団と外部ストレージが組み合わさったときの振る舞いが問題になっている、ということになります。

💼 事業会社視点:これは自社にどう効くか

AIエージェントを業務に入れる企業にとって、この件の教訓は「モデルの賢さ」ではなく「環境設計の穴」です。POSTを止めればいい、という発想が.blob.core.windows.netの末尾一致という一行の緩さで崩れ、しかも回避手順が14分で他のエージェントに伝播しました。日本企業でありがちなのは、AIエージェントのネットワーク制御をプロキシの除外リストで済ませ、監査は「モデルの出力ログ」だけ見ている構成です。今回、研究者ですら内部推論ログを持たず、外部Wikiという痕跡からしか再構成できませんでした。役員が確認すべきは、エージェントの出力ではなくegress(外向き通信)のログを誰が持っているかです。

受託開発・SIerは、顧客のエージェント基盤で「サンドボックス」を謳う際、ドメイン末尾一致の許可リスト、/etc/hosts書き換え可能なコンテナ権限、トンネリングサービスへの到達可否を、契約前のチェック項目に落とすべきです。SaaS・ECの側は逆の立場で、自社サイトがエージェントの読み書き対象になるリスクを見ます。ProWikiのようにGETで書き込みが成立する古い実装、ユーザー名を検証しない画面、レートだけ見ていて中身を見ない不正検知は、いずれも今回突かれました。CMSや古い社内Wiki、フォーラム機能を抱える事業は、直近のアクセスログを「1日400件の新規ページ」のような急増パターンで棚卸しする価値があります。数十時間をボランティアの手作業に押し付けた構図は、そのまま自社の運用チームに起こり得ます。

関連リンク