何が起きたか
ケンブリッジ大学の「AI Science & Policy プログラム（CASP）」に所属する研究者Antonia Jülich氏の新研究が、ナイジェリアの武装組織ボコ・ハラムによるAIチャットボットの悪用実態を明らかにしました。調査は同組織の元メンバー27人への57回のインタビューに基づきます。
組織はChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekといった一般に普及したチャットボットを、攻撃計画、より強力な爆発物の製造、武器のメンテナンス、通信・作戦の秘匿（オペレーショナル・セキュリティ）に利用していたとされます。ボコ・ハラムの2つの分派はそれぞれ専門の「AIユニット」を設置し、精鋭を集めた部屋でプロジェクターを使い大画面で使い方を実演していたといいます。
注目すべきは、この悪用が独学ではなかった点です。ISISが2023年からプロンプトエンジニアリングとジェイルブレイクの訓練を提供し、ナイジェリアでボコ・ハラムの指揮官に安全フィルターの回避方法を教えていたと報告されています。
AIで「トレンチ越えバイク」を再現
象徴的な事例が、分派ISWAPによる訓練です。同派は映画に登場するバイクのジャンプ技術をAIで再現し、戦闘員が塹壕（トレンチ）を飛び越えられるよう訓練しました。元ISWAP指揮官のMunzir氏がJülich氏に語ったところによれば、この訓練では18人の戦闘員が死亡し、実際にジャンプに成功したのは8人でした。この数字は、AIが「知識へのアクセス」を容易にしても、実行段階のリスクは別物であることを生々しく示しています。
なぜ重要か
研究の含意は「AIが新しい大量破壊能力を生み出した」というものではありません。研究者らは、ChatGPTやClaudeのようなチャットボットは主に既存の知識を探しやすくするだけで、新しい何かを生成するわけではないと指摘します。より深刻な懸念は、生命科学分野などのより専門化されたAIシステムが悪用される可能性にあります。
それでも警鐘は明確です。元メンバーはAIへの強い熱意を語り、組織が以前から大量殺傷兵器を検討していたとの証言もありました。Jülich氏は、ボコ・ハラムのAI利用が現状は「在来型」にとどまるとしつつ、テロリストが化学・生物兵器の開発にAIの支援を求めるリスクを真剣に受け止めるべきだと警告します。
OpenAIやAnthropicといったAI企業は、モデルが危険な知識へのアクセスを容易にしうると以前から警告してきました。しかし今回の研究は、自主規制と安全フィルターだけでは悪用を確実には防げなかったことを示しています。Anthropic自身も最近、ジェイルブレイクを完全に根絶することはおそらく永遠にできないと認めています。
💼 事業会社視点：これは自社にどう効くか
この事例が事業会社に突きつけるのは「安全フィルターは万能ではない」という前提です。SaaS・受託開発でLLMを組み込む企業は、モデルベンダーのガードレールを最終防衛線と見なす設計を今すぐ改める必要があります。Anthropic自身がジェイルブレイクの完全根絶は不可能と認めた以上、プロンプト注入・脱獄を「起こる前提」で、入出力ログの監視、用途逸脱の検知、業務ドメイン外の出力遮断を自社側で二重化すべきです。
EC・金融など不正利用の標的になりやすい業界では、社内チャットボットが攻撃の踏み台や情報流出経路になりうる点も要注意です。特に生命科学・化学・製造分野の専門AIを扱う企業は、汎用チャットボット以上に厳格なアクセス管理と監査が問われます。経営者は「どのAIを使うか」だけでなく「悪用されたとき誰がどう検知・遮断するか」を、コンプライアンスとリスク管理の議題として役員会に上げる段階に来ています。