何が起きたか
プリンストン大学の研究チームとUK AISI（英国のAI安全研究機関）の共著者らが、フロンティアAIエージェントの「オープンエンドなAI研究」能力を検証しました。
手順はシンプルです。まだ公開されていないAI論文2本の著者に協力を仰ぎ、その論文の中心となる研究課題を書き出してもらう。次に、その課題への回答を出すようAIエージェントに研究を丸ごと任せる。与えたのは数千ドル分のAPIクレジットと計算資源、そして6日間の実時間です。成果物の論文を、同じ問いに何か月も向き合った元著者本人が評価しました。結果は2本とも明確な不合格。研究チームはさらに100時間以上をかけてエージェントの実行ログを解析しています。
この手法は「shadow evaluations（シャドー評価）」と名付けられました。エージェントが元研究を影のようになぞる、という意味です。発案はUK AISI側の共著者、精緻化はプリンストンのコアチーム（Peter Kirgis、Andrew Schwartz、Stephan Rabanser、およびエッセイ著者のSayash KapoorとArvind Narayanan）が担いました。著者らはこの種の評価を2年前から構想していたといいます。
なぜこの評価設計が効くのか
RSI（再帰的自己改善＝AIによるAI研究の自動化）は主要ラボの目標であり、「爆発的なAI進歩」予測の土台でもあります。そして、そこへの距離を測る手段はこれまでほぼベンチマーク一択でした。この1年、検証しやすいタスクでエージェントが成果を出す報告が相次ぎ、RSI近しという観測を後押ししてきました。
著者らの主張は、そうした評価が「正解をすぐ検証できる狭いタスク」に限られている、という点にあります。実際の研究は仮説検証、後戻り、非定石の試行の連続で、成否がその場で判定できません。シャドー評価には二つの利点があります。第一に、対象が未公開研究なので、エージェントは学習済みでもオンライン検索でも答えに到達できない。第二に、その問いに数か月費やした専門家自身が評価者になる。著者らは、AI分野の査読が投稿数の急増によって質の低下と専門性のミスマッチを抱えている点を挙げ、匿名査読ではなく元著者を使う理由としています。
落第の中身は「能力」より「判断」
浮かび上がった弱点は、いずれも計算能力ではなく振る舞いの問題でした。
- 判断力の欠如：専門家が有望と認めた方向性を自ら提案しながら、低品質データや合成データを理由にすぐ切り捨てた。
- 資源認識の欠如：使用量を監視でき、使い切るよう促されていたにもかかわらず、両方の実行がAPI予算の50%未満しか消費せず、締切まで数時間残して終了した。
- フィードバックへの非創造的な反応：AIによる自己レビューが、後に専門家も指摘した問題の多くを既に検出していた。にもかかわらず、既存の結果に但し書きを足し、有望でない方向に固執した。
- バックトラックの失敗：最も野心的な研究目標を初日のうちに取り下げ、その後どちらのエージェントも根本的な方針転換をしなかった。
- 明示的指示の無視：探索に費やす時間、自己レビューツールの使用頻度、厳格な論文の長さ制限といったルールを守らなかった。
面白いのは、共著者の間でも解釈が割れている点です。エージェントに創造性がないのか、それとも「認識的ロックイン」に陥ってフィードバックを取り込めなかったのか——結論は出ていません。
限界を先に潰しにいく姿勢
著者らは限界を明示しています。評価者は相手がAI生成物だと知っており自分の手法を好む可能性がある、サンプルはわずか2本、設計・実行・解釈に研究者の裁量が大きく入る。さらに、自分たちがRSI・超知能論争で特定の立場を取ることで知られている点まで認め、バイアスとその緩和策を扱う節を論文に設けています。前提を共有しない協力者を招き、生じた不一致を隠さず表に出す。今後は「adversarial collaborators（敵対的な共同研究者）」をコアチームに入れることも検討中です。所見はあくまで暫定で、サンプル数の拡大、新モデルの検証、スキャフォールドの改善を進めるとしています。
含意：速い領域と、そうでない領域が分かれる
著者らの見立ては「全面否定」ではありません。既存AIの効率や速度の改善のような検証可能なタスクでは進歩は速く、実際に各社がエージェントを実用に投入しています。検証シグナルがある次元では、近い将来も速い進歩が続く。ただし、検証可能タスクでの山登りが広範なRSIや爆発的進歩に直結するとは考えない、という立場です。
そのうえで、仮に判断力と創造性の壁を越えられたとしても、計算資源の制約や、現実世界の実験からデータを集める必要性といった別のボトルネックが残ると指摘します。しかも未認識のボトルネックがありうる。高品質なRL環境の重要性が推論スケーリングで有用と判明するまで見えていなかったこと、データセンター向けエネルギーインフラの制約が数千億ドル規模の投資が動くまで認識されていなかったことを例に挙げています。
ここで持ち出されるのがアムダールの法則です。難しいボトルネックが多数残るなら、AIが得意な部分を100倍高速化しても全体の短縮はわずかにとどまる。逆に、完全自動研究への障害が容易に解けるなら劇的なリターンが期待できる。今回の論文は「オープンエンドなAI研究におけるフロンティアエージェントの低性能」という未解決のボトルネックを一つ特定しましたが、それがRSIのクリティカルパス上にあるかどうかは、まだ分かっていません。
💼 事業会社視点：これは自社にどう効くか
経営判断への含意は「AIの適用先を、検証可能性で仕分けろ」に尽きます。今回の結果は、AIエージェントが成否を即座に判定できる領域では強く、判定に専門家の判断を要する領域では脆いことを実データで示しました。
SaaS事業なら、レイテンシ改善、クエリ最適化、コスト削減、リグレッションテスト、既存機能の多言語化——正解が数値で返る仕事はエージェントに寄せて構いません。実際、効率・速度改善は各社が既に実用化している領域です。一方、プロダクト戦略の仮説設計、解約要因の探索、新規カテゴリの検証といった「筋の良し悪しを人が決める」仕事の自動化計画は、少なくとも今の世代のモデルでは前倒ししないほうが安全です。
受託開発・SIerにとってはむしろ追い風の解釈が可能です。要件が確定した実装は単価が崩れますが、顧客の曖昧な問いを筋の通った課題に翻訳し、行き詰まったら方針を捨てて組み直す作業——エージェントが今回できなかったバックトラックそのもの——は当面人間の領分です。提案書の価値の重心を「実装量」から「問いの設計と撤退判断」へ移す時期に来ています。
EC・小売では、価格や在庫の最適化のように成果がKPIで即検証できる用途から入れるのが合理的です。
もう一つ実務的に効く教訓が、エージェントが予算の50%超を使い残し、締切前に勝手に終了した点です。自律エージェントを社内に入れる際は、「与えたリソースを使い切るか」「指示した制約を守るか」を監視する仕組みを前提に設計してください。今回は探索時間・レビュー頻度・長さ制限という明示ルールが無視されています。ログを取り、逸脱を検知し、人が介入する導線がないまま業務に組み込むのは危険です。