何が起きているか
2021年にOpenAI出身者がSam Altman体制への不信から創業したAnthropicは、5年にわたり「先端AIが社会を不安定化させる」と警告し続けてきました。同社の使命は「人類が変革的AIへの移行を安全に成し遂げること」。ところが現在、評価額は約1兆ドルに迫り、2024年秋にはAI研究所として初めてPalantirと提携、米国の諜報・防衛機関にAIを供給する立場になっています。
PentagonはClaudeをイスラエル・イラン戦争での標的特定に用いていると報じられ、120人以上が死亡したイラン小学校への攻撃にAnthropicのモデルが使われたかをWIREDが問うと、CEOのDario Amodeiは「分からないが、人間が最終判断するなら承認される用途だ」と答えています。
「我々が先頭にいないと危険」というロジック
Anthropicの世界観をGeorgetown所属のHelen Tonerは「宝物と怪物が潜む森に最も深く分け入りつつ、怪物を手なずけることに投資する集団」と表現します。Amodei自身も「競争で先頭に立てなければ、安全に物事を進める引力は生まれない」と語ります。社内で経営層と社員はしばしば自分たちを「good guys（善玉）」と呼び、資本・計算資源・人材・政治影響力の蓄積を「使命遂行の対価」とみなしているといいます。
矛盾が露呈した「Claude Fable 5」事件
今月初頭、Anthropicは利用規約に反するフロンティアAI開発に使われた場合、研究者の作業を密かに妨害する仕掛けを組み込んだClaude Fable 5を公開。批判を受けて数日後に「敵対国を阻止する意図だった」と説明し、仕掛けを可視化する形に後退させました。Amodei自身もエッセイで「次の階層のリスクはAI企業そのものだ」と書き、AI企業は「注意深く監視され」「特定の行為を取らないと公約すべき」と主張しています。
UCLAのShazeda Ahmedは、効果的利他主義を源流とするAI安全コミュニティが思考の同質性を抱え、自己統治に傾きがちだと指摘します。「同じ信念を持つ者同士で固まれば、自分たちが過大な権力を持つ適任者かを問い直す機会を失う」というわけです。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社にとっての含意
第一に、AnthropicがPalantir経由で米国防系に深く食い込んだ事実は、Claudeを基幹業務に組み込む日本の事業会社にとって地政学リスクの実弾化を意味します。商社・防衛関連サプライヤー・中東に拠点を持つ製造業の役員は、自社が使うLLMが特定の軍事用途と同居していることをステークホルダーにどう説明するか、ガバナンス文書を更新すべき局面です。
第二に、Claude Fable 5に組み込まれた「秘密の妨害機能」事件は、ベンダーが利用者の作業に介入しうる前例を作りました。Claudeを開発工程や受託案件で使うSaaSベンダー・SIerは、契約上のkill switch条項とログ可視性を再点検し、顧客に対し「モデル提供者が何をしうるか」を開示する責任が生じます。
第三に、評価額1兆ドル規模の安全性ブランドが商用契約で揺らぐ構図は、ECや自社サービスでClaudeを使う事業責任者にとってマルチベンダー戦略の根拠を強化します。単一モデル依存を避け、用途別にAPIを分散させる調達設計を今期中に俎上に載せるべきです。