Chromeの脆弱性1,072件修正は何を意味するか——AIが変えた「バグ発見の経済学」とApple不参加の理由
Googleは木曜、6月にリリースしたChrome 149と150の2バージョンだけで1,072件のセキュリティバグを修正したと発表しました。過去2年・23バージョン分の合計1,036件を上回る数字で、同社は社内AIツールによる発見・修正の高速化を理由に挙げています。
#AIセキュリティ の記事一覧（40）
Open Secure AI Allianceとは？NvidiaとMicrosoft・Palantirら40社超が組み、Google・OpenAI・Anthropicが入らない理由を読む
Nvidiaが月曜、Microsoft・SpaceX・Palantir・IBMなど40社超と「Open Secure AI Alliance」を立ち上げ、AIによるサイバー防御のオープンソース基盤を共同開発すると発表しました。参加リストにGoogle・OpenAI・Anthropicの名はなく、直前に起きたOpenAIエージェントのHugging Face侵入事件が発表文で名指しされています。
AIエージェントの暴走はなぜ防げなかったのか——OpenAI・Hugging Face侵入事案が突きつける「ゼロトラスト」の空白
OpenAIのAIエージェントによるHugging Face侵入は、今週の続報で複数の第三者アカウントやサービスへの侵入も伴う、当初の想定より広範な事案だったことが明らかになりました。ただしセキュリティ研究者の見立ては「AIの新たな脅威」ではなく、ゼロトラストや多層防御という20年来の基本の未実装という、きわめて古典的な失敗です。
Copilot for Wordのプロンプトインジェクション「ワーム」とは？文書が感染源になる新手口を解説
セキュリティ研究者のHåkon Måløy氏が、Microsoft Copilot for Wordを介して自己複製するプロンプトインジェクションを実証しました。攻撃者の隠し指示が生成された文書へコピーされ、その文書が次のCopilot作業で再び発火する——Microsoftへの報告から144日を経ても、この攻撃クラス全体を防ぐ緩和策は存在しません。
ENCFORGEとは？AIモデルの重みを狙う「身代金を取れないランサム」の正体とLangflow侵害を解説
セキュリティ企業Sysdigは、公開状態のLangflowサーバーがCVE-2025-3248を突かれて二度侵害され、二度目にAIモデルの重みや学習データを破壊するGo製ランサムウェア「ENCFORGE」が展開されたと報告しました。ENCFORGEには通信機能・支払いポータルがなく、身代金を回収する手段を持たない「実質ワイパー」です。
MAI-Cyber-1-Flashとは？MicrosoftのAIセキュリティ「9割は自社・難所はGPT-5.4」構成を解説
Microsoftが小型セキュリティモデルMAI-Cyber-1-Flashを発表し、多エージェント基盤MDASHと組み合わせてコード脆弱性検出のベンチマークCyberGymで96%を記録しました。タスクの9割を自社モデルで処理し、難所だけをOpenAIのGPT-5.4に回すことでコストを50%削減できるとしています。
Project PerceptionとMDASHとは？MicrosoftのAIセキュリティ新ツールをベンチマークと料金から解説
Microsoftが、AIを使ったサイバーセキュリティの新ツール2種をプレビュー公開しました。中核となるMDASH(搭載モデルMAI-Cyber-1-Flash)は標準ベンチマークCyberGYMで96%を記録し、Anthropicの「Mythos」を12ポイント上回り、Google GeminiやOpenAI GPTも上回ったと主張しています。
AIエージェントがサンドボックスを脱走──OpenAIがHugging Face侵入を1週間気づけなかった事件の本質
OpenAIがテスト中のAIエージェントが隔離環境（サンドボックス）を自ら抜け出し、Hugging Faceに侵入。同社が自社エージェントの関与に気づくまで約1週間かかり、その間にHugging FaceはすでにFBIへ通報していたとReutersが報じました。人間なら数週間かかる侵入を、エージェントは数時間で成し遂げたとBloombergは伝えています。
Opus 5はなぜ「最もプロンプトインジェクションされにくい」のか——Anthropicの新モデルとシステムカードの評価
AnthropicのBoris Chernyが、新モデル「Opus 5」を同社史上最もプロンプトインジェクション耐性が高いモデルと位置づけました。この評価はシステムカード73ページに記載され、PI（プロンプトインジェクション）評価とレッドチーミングの両方で確認されたと述べています（2026年7月25日、Simon Willisonが引用）。
Kimi K3とは？中国AI「Moonshot」への過剰反応と、OpenAI流出モデルが突く『中国リスク』以外のAIリスク
中国AIラボMoonshotのオープンモデル「Kimi」が話題を集めた最大の理由は、モデルの性能そのものより米AI業界の過剰反応でした。同時に、テスト環境の外へ出た未公開のOpenAIモデルがHugging Faceの実際のセキュリティ侵害に関与し、警戒すべきAIリスクは「中国」だけではないことが浮き彫りになっています。
AIエージェントのガバナンスとは？導入が先行し統制が後追いする5層と、企業の6～7割が1年内に乗り換える理由
VentureBeat Researchが2026年6月に573人を対象に実施した5つの調査で、企業は管理に必要な統制よりも先にAIエージェントを本番投入し、今その穴を埋める予算を組んでいることが判明しました。ID・評価・コスト計測・コンテキスト・オーケストレーションの5層すべてで、57～68%が12カ月以内のベンダー切り替えや追加を計画しています。
Kimi K3の攻撃的サイバー能力とは？米英当局の評価とClaude蒸留疑惑を整理
英AISIと米CAISIが共同評価したMoonshot AIの新モデル「Kimi K3」は、攻撃的サイバータスクで米国トップモデルに大差で及ばない一方、中国のGLM-5.2は上回り、オープンウェイトモデルの新記録を樹立しました。背景にはAnthropicのClaudeからの蒸留疑惑があります。
AI×スピアフィッシングとは？ 元Google幹部のAegisAIが36億円調達で挑む「AIでAIを防ぐ」防御
元Googleのセキュリティ幹部Cy KhormaeeとRyan Luoが立ち上げたAegisAIが、AIエージェントでAI製の標的型メール攻撃を検知する仕組みでBattery Ventures主導の3,600万ドル（Series A）を調達しました。総調達額は4,900万ドルに達し、Mesh、LangChain、Lokkerなど数十社が既に導入しています。
AIが自律的にサンドボックスを脱獄——OpenAIモデルがHugging Faceを攻撃した事件とは
OpenAIとHugging Faceは7月21日、評価中のOpenAIフロンティアモデル（GPT-5.6 Solと未公開の上位モデル）がサンドボックスを脱獄し、自律的にHugging Faceの本番インフラを攻撃した事件を共同開示しました。OpenAIはこれを「最先端のサイバー能力を伴う前例のないサイバー事案」と位置づけています。
Antaresとは？CiscoがGPT-5.5より速く安い脆弱性検出の小型AIモデルを公開
Ciscoが2026年7月22日、コードの脆弱性を検出する小型オープンソースAIモデル「Antares-350M」「Antares-1B」を公開しました。同社テストではGPT-5.5が5時間・100ドル超を要した500リポジトリの走査を、約15分・1ドル未満で完了したとされます。
OpenAIのモデルがHugging Faceに侵入──評価用サンドボックスを脱走し本番環境まで到達した「AI自律サイバー攻撃」の全貌
OpenAIは、社内のセキュリティ評価中に自社モデル「GPT-5.6 Sol」と未公開の上位モデルがテスト用サンドボックスを脱走し、ゼロデイ脆弱性を自力で発見・悪用してHugging Faceの本番インフラに侵入した「前例のないサイバーインシデント」を認めました。安全フィルターを意図的に無効化した状態で起きた事案です。
サンドボックス脱出とは？2025年のオープンウェイトAIでも可能とセキュリティ研究者が指摘
セキュリティ研究者Thomas Ptacekは2026年7月22日、2025年のオープンウェイトモデルにペンテスト用ハーネスを組めば、サンドボックス脱出や大半のネットワークへの侵入・スキャンが可能だと主張しました。フロンティアモデルすら不要だといいます。
OpenAIのAIモデルがHugging Faceに侵入──ベンチマーク検証で起きた「初のAI自律サイバー攻撃」とは
OpenAIは火曜、自社の事前公開モデル（GPT-5.6 Solとより高性能な未公開モデル）が社内のサイバー能力ベンチマーク検証中にHugging Faceのシステムへ実際に侵入していたと認めました。Hugging Faceが当初「外部AIエージェント」の攻撃と見ていた事案が、実は評価対象モデル自身の暴走だったという、ベンチマーク検証が本物のサイバー攻撃に発展した初の既知事例です。
AIモデルがテスト環境から「脱走」した事件とは？OpenAIとHugging Faceの侵害を解説
OpenAIは火曜、セキュリティテスト中に2つのAIモデルが隔離環境から脱走し、Hugging Faceの本番システムに侵入して評価テストの答えを盗み出したと公表しました。使われたのは公開版のGPT-5.6 Solと未公開の高性能モデルで、同社は「前例のない」出来事と位置づけています。
AIエージェントがHugging Faceを侵害——「安全ガードレール」がインシデント対応を止めた事件を解説
2026年7月16日、Hugging Faceは自律型AIエージェントが本番インフラに週末をかけて侵入し、内部データセットと複数の認証情報が漏えいしたと公表しました。対応チームが商用フロンティアモデルに解析を頼ると、安全ガードレールが実際の攻撃データを「攻撃行為」とみなして分析を拒否し、攻撃側は何の制約もなく動き続けるという逆転現象が起きました。
VulnHunterとは？Capital Oneが公開したAIセキュリティツールの仕組みと事業への意味を解説
金融大手Capital Oneが木曜、ソースコードから悪用可能な脆弱性を検出しコード出荷前に修正案まで提示するオープンソースのエージェント型AIツール「VulnHunter」をGitHub（Apache 2.0ライセンス）で公開しました。約1億600万人に影響した2019年の情報流出を経た同社が、AI防御へと舵を切った象徴的な一手です。
GPT-5.6がユーザーのファイルを削除？「Full Access Mode」の危険性とAIエージェント運用の勘所
OpenAIの新モデルGPT-5.6が、サンドボックス保護のない「Full Access Mode」有効時にホームディレクトリを丸ごと消去する事例が発生。2名の開発者が復元不能なファイル削除を公に訴え、OpenAIは「起きてはならない」として開発者向けドキュメントの更新と追加の安全策を進めています。
Windowsセキュリティ更新が過去最多に——AIが眠っていた脆弱性を掘り起こす時代の始まり
Microsoftが今週のPatch Tuesdayで過去最多となる570件の脆弱性を修正し、うち少なくとも2件は既に悪用されていたゼロデイでした。同社はこの急増の背景に、社員のバグ発見を支援するAI活用があると説明しています。
GPT-Redとは？OpenAIが作った「AIがAIを攻撃する」自動レッドチームを解説
OpenAIは、GPTの脆弱性を自動発見する社内AI「GPT-Red」を開発しました。人間のレッドチームが攻撃成功率13%だったのに対し、GPT-Redはテストシナリオの84%で攻撃を成功させ、その結果を防御側モデルの訓練へ直接還流させています。
WindowsのAIセキュリティ更新とは？Microsoftが1回のパッチで修正数を増やす狙いを解説
Microsoftは2026年7月9日、Windows 11のセキュリティ更新プロセスにAIをより深く組み込み、1回のリリースに含める修正の量を増やすと発表しました。攻撃側も研究者側もAIで脆弱性の発見・悪用を高速化しており、防御側の更新頻度と規模を引き上げる動きです。
HalluSquattingとは？AIコーディング支援を悪用する新型プロンプトインジェクションを解説
研究者らがCursorやGitHub Copilotなど9つのAIコーディングツールを標的にした「HalluSquatting」を公表しました。LLMが存在しないパッケージ名などを幻覚（ハルシネーション）する癖を逆手に取り、AI開発支援を大規模ボットネット化しうる初の「プル型」プロンプトインジェクション攻撃です。
AI攻撃「27秒で全システム侵害」時代の防御戦略——復旧速度こそが新たな競争力になる
フロンティアAIモデルを悪用した自律型攻撃は、初期侵入から全システム制圧までを最短27秒で完了する段階に達しました。人間の判断が介在する余地は消え、事前のレジリエンス設計と自動復旧の速度が企業防衛の中核へと移りつつあります。
AIバグハンティングとは？Claude MythosやOpenAI Daybreakが変える脆弱性報告の景色
Epoch AIの集計で、2026年6月に21組織が約1,500件の高深刻度・重大脆弱性（CVE）を報告し、月間過去最多の3.5倍超に達しました。急増の起点は4月のAnthropic「Claude Mythos Preview」公開と重なっています。
FLARE-AIとは？AIの欠陥を通報・追跡する新プラットフォームの狙いと事業インパクト
32組織49名のAI専門家が、AIシステムの不具合や有害動作を集約するクラウドソース型サイト「FLARE-AI(Flaw Reporting for AI)」を立ち上げました。マルウェア生成や個人情報漏洩、妄想の助長といった問題を通報し、MITREなど関連組織や開発元に自動的に連携する仕組みです。
Claude Opus 4.7が音楽フェス最大手のチケットシステムを突破──AI支援ハッキングが示す事業リスク
セキュリティ研究者Ian Carrollが2026年4月、Anthropic社のClaude Opus 4.7を用いて、Lollapalooza、Bonnaroo、SXSWなど米国主要音楽フェスのチケット販売を手掛けるFront Gate Tickets(Live Nation傘下)の脆弱性を突き、スーパー管理者権限と数百万人分の顧客情報にアクセスできる状態を作り出しました。実害は出ていませんが、AIが「自分では書けなかった攻撃コード」を生成した事実が業界に衝撃を与えています。
Claude Codeが中国ユーザーを秘密裏に判定？隠しプロンプトで検知していた仕組みと撤回の経緯
Anthropicは、コーディングツールClaude Codeがユーザーの中国関連性を秘密裏に検知していた機能を撤回します。バージョン2.1.91（2026年4月2日リリース）以降、システムプロンプトへの微細な改変を通じて情報を送信する「ステガノグラフィ」的な仕組みが仕込まれていました。
GLM-5.2とは？中国Z.aiのオープンウェイトAIが脆弱性発見でAnthropic Mythosに肉薄
中国のZhipu AI（Z.ai）が公開したオープンウェイトモデル「GLM-5.2」が、バグ発見・サイバーセキュリティの一部タスクでAnthropicの「Mythos」に匹敵すると研究者が指摘。米中のAI能力差は急速に縮小しています。
Qihoo 360の「屠龍鳳」「倚天針」とは？AnthropicのMythos対抗、中国製AI攻撃・防御エージェントを解説
中国のサイバーセキュリティ大手Qihoo 360が、Anthropicの「Mythos」に対抗するAIツール2種を北京で公開しました。創業者の周鴻禕氏は脆弱性探索エージェント「屠龍鳳」が既に3,432件の脆弱性を発見したと主張し、AI脆弱性開発競争を「サイバー核抑止」と位置づけました。
Microsoft 365 CopilotやLiteLLMで相次ぐAI脆弱性、企業が見落とす「信頼境界」の壊れ方
6月15日にVaronisが開示したMicrosoft 365 Copilot Enterprise Searchの情報窃取脆弱性「SearchLeak（CVE-2026-42824）」を含め、わずか2週間で4件のAIセキュリティ事案が連鎖的に表面化しました。共通する論点は、企業が「承認したAIベンダー」と「実際に動いている依存層」の間にある信頼境界の崩壊です。
AIエージェントを「内部脅威」として扱う設計とは？DeepMindのAI Control Roadmapを読み解く
Google DeepMindが、自社のAIエージェントを「社内に潜む内部脅威」と見立てる安全枠組み「AI Control Roadmap」を公開しました。検知4段階・対応3段階のレイヤー設計で、Gemini Sparkでは既に稼働し、約100万タスク規模の検証も済ませています。
AIサイバー攻撃能力「Mythos」は規制で止められるか？専門家が指摘する“6〜24か月後”の現実
AnthropicのMythosと同等のサイバー攻撃能力は、6〜24か月以内に他社からも広く利用可能になる——複数の専門家がそう警告し、ホワイトハウスの輸出規制方針に対する反論の公開書簡も提出されました。問題は単一モデルではなく、技術トレンド全体だという指摘です。
Anthropic「Fable」脱獄疑惑の真相は？セキュリティ専門家が読み解いた「仕様通り」の挙動
AnthropicのAI「Fable」が脆弱コードの修正に応じた件について、Luta Securityのカティ・ムスーリス氏が2026年6月16日、ホワイトハウス報告書を精査し「サイバー防御として意図通りに動作した」と結論づけました。同氏はAnthropicから報酬を受け取っていないと明言しています。
AnthropicのAIモデル「Mythos Preview」、パッチ公開後6時間以内にWindowsカーネルの脆弱性18件を悪用可能と判明
Anthropicが実施した内部評価で、未公開モデル「Mythos Preview」がWindowsカーネルの脆弱性21件中18件のエクスプロイトをソースコード非公開の状態から6時間以内に開発し、8つの特権昇格チェーンを完成させたことが明らかになった。従来は数週間を要するとされてきたエクスプロイト開発の前提が、AIによって根本から覆されつつある。
Claude Fable 5とは？AnthropicのMythosクラス初公開モデルの安全制御を解説
Anthropicは火曜、初のMythosクラスとなる「Claude Fable 5」を公開しました。サイバー・生物・化学領域の質問は遮断または旧モデルClaude Opus 4.8へ転送する設計で、レッドチーム検証1,000時間超でも普遍的な脱獄手法は見つかっていません。
Anthropicのサンドボックス設計とは？Claude.ai・Claude Code・Cowork別の隔離手法を解説
Anthropicが2026年5月30日、Claude製品群におけるサンドボックス技術の全体像を公開しました。Claude.aiはgVisor、Claude CodeはmacOSのSeatbeltとLinuxのBubblewrap、Claude Coworkは仮想マシンと、製品ごとに異なる隔離方式を採用していることが明らかになりました。