AIエージェントの評価（Evals）はなぜ機能しないのか——「社内テスト合格→顧客に迷惑」を経験した企業の85%が人間承認を外す理由
VentureBeat Intelligenceが2026年7月に実施したVB Pulse調査（108社）で、社内テストを通過したAIエージェント／LLM機能が顧客に見える形で問題を起こしたと答えた企業は49%（6月は50%）。そして、その「痛い目に遭った」企業の85%が、低リスク領域で人間の承認なしにコード変更やシステム変更を許す方向へ動いていることが分かりました。