何が起きたのか

米軍は対イラン作戦で初めてAIを大規模に標的選定に投入した。PalantirのMaven Smart Systemに組み込まれたAnthropicのClaudeが初日だけで約1,000件、最初の数日で3,000件超の標的を提示したとWSJが報じている。そのなかでイラン南東部ミナーブの建物が「海軍関連施設」として攻撃され、実際には小学校だった。

失敗の核心は「AIの誤判定」ではない

注目すべきは、現場の分析官は2019年時点で建物が学校に転用された事実をデジタル諜報ツールに記録していた点である。問題はその記録が、攻撃標的の生成に使われる正式データベースと接続されていなかったことだ。LAタイムズによれば、少なくとも2つの諜報DBが正式標的DBと未接続のまま放置されている。

中核DBであるMIDBは1980年代構築で、いまも手入力が中心。後継の自動化システムMARSへの移行は数年単位で遅延し、米GAOは2020年時点で欠陥を指摘済みだった。シリアでは10〜20年前の標的データが使われていた事例もある。今回の誤爆で使用された画像も7年前のものだったとニューヨーク・タイムズは報じた。

AIが「古いデータ」を高速処理した結果

つまり今回起きたのは、最先端のLLMが数十年前に設計された手動DBの上で動き、現場の更新情報を読み込めないまま大量の標的を高速に量産したという事態である。米軍ドクトリンでは指揮官が軍民を判別し、任意プロセスの「ターゲット検証」で諜報の正確性を確認するが、Centcomが今回これを発動したかは不明とされる。

元統合AIセンター初代所長のジャック・シャナハン退役空軍中将は、対テロ偏重で標的分析職が「衰退した職域」となり、2017年時点で人員確保にすら苦労したと証言している。Pentagonは事件後にエージェント型AI構想を発表したが、根本にあるDB統合と人材の問題が解けない限り、AIの追加投入は誤りを増幅する可能性が高い。

💼 事業会社視点：これは自社にどう効くか

このニュースは軍事案件に見えるが、日本企業にとって他人事ではない。生成AI導入を進めるSaaS事業者、AIエージェントを業務に組み込む大手製造業・金融・小売、AI受託開発を担うSIerすべてに通じる構造的教訓がある。

第一に、AIの精度問題は「モデル選定」ではなく「データパイプラインの接続性」で決まる。今回の誤爆は最新LLMの判断ミスではなく、現場の最新情報を載せたDBが公式DBと繋がっていなかったという、20年前から指摘されるサイロ問題だ。社内で複数の顧客DB・在庫DB・問い合わせ履歴を抱えるEC・SaaS企業は、AI導入前にまず「どのDBが意思決定系に接続されているか」を棚卸しすべきである。接続されていないDBの上にAIを乗せれば、古い前提で高速に誤った判断を出力する。

第二に、現場が「気づいたこと」をシステムに反映する経路が機能しているか。分析官は2019年に正しく異変を記録していたが指揮官に届かなかった。同じことは営業現場・カスタマーサポートの気づきが経営判断に届かない構造として、日本企業で日常的に起きている。AIエージェント導入を急ぐ前に、人間が入力した情報がAIの参照範囲に入る設計になっているかを経営者は問うべきだ。第三に、エージェント型AIが「最終承認は人間」という建前で運用されるとき、人間側の検証プロセス(任意のtarget vetting相当)が形骸化していないかを取締役会レベルで確認する責任がある。