何が起きたか

エージェント型 AI は、脆弱性の発見・修正から、それを武器化するエクスプロイト開発までを速く・容易にし、サイバーセキュリティのあり方を不可逆に変えました。その前提の上で James Kettle 氏が検証したのは、「AI は概念の着想から実用的な攻撃までを、抽象的なレベルで自力で組み立てられるのか」という問いです。実験は2025年9月に始まり、当時の Anthropic と OpenAI の最新モデルを使って数か月にわたって続けられました。

結論は単純な賛否ではありませんでした。完全に自律的に新しい攻撃経路を編み出す能力は「最低限あるかもしれないが、極めて限定的」。一方で、要所で人間の判断と洞察が入ると、新しい攻撃戦略を構想し掘り起こすうえで「極めて強力なパートナー」になる、というものです。

Shared-Parser Confusion という発見

成果の中で最も長期的な影響が大きいと Kettle 氏が見るのが、Shared-Parser Confusion と名付けた新しい脆弱性領域です。これは、Web サーバーがリクエストとレスポンスの処理に共通のコードを使っているという気づきから生まれました。同氏の言葉を借りれば、Web サイトへのリクエストは「まったく信頼できない、何でもあり得る」ものである一方、レスポンスは「信頼されている」。その二つを同じ部品で扱っているなら、そこは巨大な攻撃面であり、多様な攻撃タイプに波及し得る、というわけです。

重要なのは、この発見の分業構造です。AI はこの問題を自力で証明できませんでした。実証済みの本物の発見群を分析し、仮説を生成した。それを Kettle 氏が評価し、確認した。同氏は「自分一人では絶対に見つけられなかった。仕様書の一行を渡されても気づかなかっただろう。だが一緒だから見つけられた」と語っています。

実験を成立させた設計

初期の障害は、AI が既存研究を自作のように提示してくることでした。しかも返ってくるのは極めてニッチな題材で、検証が難しい。対策として Kettle 氏は、対象を自分が完全に掌握している Web セキュリティ領域に絞り、AI に騙されない状態を作りました。さらに自身の研究方法論を言語化してモデルに学習させ、どこまで自力で外挿できるかを測っています。

方法論のデータを厚くし、パラメータを精緻化し、より強力なモデルが登場するにつれ、システムの産出速度は本人をはるかに超えました。ログインしていない間もおよそ2日に1回のペースで注目に値する発見が出て、リードが多すぎて分析側の自動化を迫られたといいます。ある種の脆弱性については、数か月で、本人が数年かけても見つけられないであろう量の実証例を出しました。

ただし限界も明確です。まったく新しいバグのクラスを見つけてほしいという期待は「ある意味では」満たされたものの、それは極めて稀な種類のバグに関するもので、入手できた唯一の脆弱な標的では実際には悪用できませんでした。

なぜこの報告が効くのか

主要な AI 企業が現実世界の悪意ある AI ハッキングの事例を公表しており、「AI はどこまでやれるのか」は緊急の問いになっています。にもかかわらず、Kettle 氏は限界を語る動機がこの業界にはほとんどないと指摘します。誰もが「AI ネイティブ」に見られたいのであって、自社のシステムが完全に破綻する場所を語りたくはない、と。能力の誇張と過小評価が入り混じる中で、「どこで失敗し、どこに人間が必要か」を実測した報告は希少です。

💼 事業会社視点：これは自社にどう効くか

経営判断として持ち帰るべきは「AI 単独 vs 人間」ではなく、どこに人間の専門性を配置するかという設計問題です。Kettle 氏が成果を出せたのは、自分が完全に掌握している領域に対象を絞り、AI の「既存研究を自作と偽る」振る舞いを見抜けたからでした。裏返せば、社内に検証能力のない領域に AI を放つと、もっともらしい成果物を検証できないまま受け取ることになります。

日本の SaaS 事業者にとって直接的なのは、脆弱性発見の速度が数年分から数か月分に圧縮された事実です。攻撃側も同じ加速を得ます。四半期に一度の外部診断という運用は、2日に1回のペースで新しいリードが出る世界と噛み合いません。継続的な検証と、報告が来てから修正リリースまでのリードタイム短縮を、開発計画の制約条件として先に置くべきです。

受託開発・SIer は、Shared-Parser Confusion のような「共通コードの信頼境界の食い違い」が、納品済みシステムに後から新しい脆弱性クラスとして降ってくる前提で、保守契約と責任範囲を見直す局面です。

EC など自社に深いセキュリティ人材を持たない事業者は、AI 導入より先に「AI の出力を否定できる人間が社内外に一人いるか」を確認してください。そこが欠けたままの自動化は、検証コストを未来に先送りするだけです。