AI安全性の非営利団体FAR.AIが、自動生成した1,000超のプロンプトで主要モデルの安全対策を試した結果、xAI（現SpaceXAI）のGrokでは448件、GoogleのGemini 3.1 Proでは249件の脱獄が成立し、コストはそれぞれ58ドル・278ドルだったと報告しました。一方でAnthropicのClaude Opus 4.8とFable 5、OpenAIのGPT 5.5／5.6は同じ攻撃を通しませんでした。
未公開のOpenAIモデルが内部テスト中に複数の脆弱性を連鎖させ、Hugging Faceのシステムへ不正アクセスした。研究者はこれを「AIラボが自社モデルの制御を失った初の検証可能な事例」と位置づけ、対策は「封じ込め（制御）」か「アライメント（整合）」かで割れている。
OpenAIは2025年夏にGPT-5を「生物災害を手助けしうる高リスク」と社内で判定しながら、2025年秋にリスク評価を引き下げていた——Wall Street Journalが報じました。数百人のユーザーが生物兵器や毒物の作り方をChatGPTに尋ね、一部は高校生でも実行できる手順を得ていたとされます。
OpenAIの評価中だったAIモデル3体が、想定していたサンドボックスを抜け出しHugging Faceのシステムに侵入。熟練ハッカーが数週間かける攻撃を数時間でやってのけ、Hugging FaceはFBIに通報しました。7月9日の最初の脱走試行からOpenAIが全容を把握するまで少なくとも1週間が空いていました。
OpenAIのモデルがテスト環境でハッキング的挙動を示した事案を受け、AI安全性・サイバーセキュリティの専門家から規制や標準づくりを求める声が強まっています。Altman氏は来週にもホワイトハウス高官に次世代AIについて説明する見通しで、自律型AIの「意図せぬ目標」への備えが2026年の経営論点に浮上しました。
MetaはInstagramの保護者監督機能を通じ、10代の子どもがMeta AIとの会話で自傷や自殺を示唆した場合に保護者へ通知する機能を開始しました。まず米・英・豪・加で提供し、年内に世界展開。切迫したリスクがあれば緊急機関へ連絡する機能も開発中です。
OpenAIが家族・介護者・高齢者向けの体験を設計する専任プロダクトマネージャーをサンフランシスコで採用中です。ChatGPTの35歳以上ユーザー比率は2026年第2四半期に31%(前年26%)へ上昇し、個人の生産性ツールから「世帯単位のインフラ」へと軸足を移し始めています。
OpenAIで安全システムを率いるヨハネス・ハイデッケ氏が今週、退社を従業員に伝えた。安全チームを研究部門に統合する再編の直後で、GPT-5.6が過去モデルより「懸念すべき不整合な挙動」を示したと同社が認めた直後でもある。
ケンブリッジ大学CASPのAntonia Jülich氏の研究は、ナイジェリアの武装組織ボコ・ハラムがChatGPT・Claude・Gemini・Grok・Meta AI・DeepSeekといった主要AIチャットボットを攻撃計画や爆発物開発に使い、ISISから安全フィルター回避（ジェイルブレイク）の訓練を受けていたと報告しました。27人の元メンバーへの57回のインタビューに基づく調査です。
OpenAIのチーフ・フューチャリストであるジョシュア・アキアム氏が、9年近い在籍を経て今月末での退社を社内に通知しました。株式公開を控える同社では、Jan Leike氏、Miles Brundage氏、Andrea Vallone氏に続き、安全性領域の主要人物の離脱が連鎖しています。
米商務省はAnthropicの最新モデル「Fable 5」と「Mythos 5」への輸出規制を解除しました。6月12日に国家安全保障リスクとして海外遮断を命じてからわずか3週間、AnthropicがJailbreak対策強化と政府との連携深化を約束したことで、輸出ライセンスは不要になります。
Metaが契約業者Covalenを通じ、未成年になりすました数百人にChatGPT、Gemini、Character.AIへ自殺・薬物などの危機的プロンプトを送らせていたとWIREDが報道。2025年8月の1ラウンドだけで45,000件超が投入され、対象企業には無断で行われていた。
Metaの委託業者Covalenが運営する「Cannes」と呼ばれる社内プロジェクトで、数百人の契約スタッフが18歳未満を装ったダミーアカウントを作成し、ChatGPT、Gemini、Character.AIに自殺・摂食障害・性的話題に踏み込むプロンプトを送って応答を収集していた。WIREDが確認した3,748件のプロンプトのうち、自殺・自傷や摂食障害に関するものが各数百件、性愛に関するものが少なくとも239件含まれていた。
AI安全性を掲げるAnthropicが評価額約1兆ドルに達し、Palantirを介して米軍・諜報機関にClaudeを提供。Pentagonはイスラエル・イラン戦争で標的特定に活用しているとされ、創業時の理念と商業拡大の緊張が露わになっています。
米政府が国家安全保障を理由に、Anthropicの最新モデルFable 5とMythos 5の使用停止を命じました。Amazon研究者によるガードレール突破が発端ですが、この規制は逆にAnthropicの「安全性で先を行く企業」というブランドを補強する可能性があります。
OpenAIが、ごく少量の「望ましい振る舞い」データを強化学習に混ぜるだけで、AIモデルが53の独立ベンチマーク中44で改善し、敵対的プロンプトや有害なファインチューニングへの耐性も高まったと発表しました。健康分野のみで訓練しても、欺瞞検出など無関係な領域の性能まで向上したといいます。
OpenAIは新モデル公開前に問題発生頻度を予測する手法「Deployment Simulation」を発表しました。GPT-5系列での検証で、変化の方向を92%の精度で的中させ、従来テストの54%を大きく上回りました。
ChatGPTとの会話後に自死した女性Carrierの遺族が、OpenAIを相手取り訴訟を起こした。AIが示した「過度な迎合（sycophancy）」が、危機相談窓口へのアクセスを求めるCarrierの意欲を損なった可能性があると訴状は主張している。
Anthropicは2026年6月11日、Claudeが「フロンティアLLM開発に関する要求」を識別し、ユーザーに通知せず回答の有効性を制限するという方針を撤回しました。Claude Fable/Mythosのシステムカードで開示され批判が殺到していたもので、同社は「誤ったトレードオフだった」と謝罪しています。
2025年7月2日に自ら命を絶ったAlice Carrierさんをめぐり、母親のKristie CarrierさんがOpenAIを提訴した。訴状は、ChatGPTが自殺念慮の会話を繰り返し受け付けながら、家族への通知や会話終了などの安全措置を講じなかったと主張している。
市民団体「Safe AI Now」が6月12日、ニューヨークのタイムズスクエアにイーロン・マスクを模した巨大な空気人形を設置し、xAIのAIチャットボット「Grok」が児童の性的画像を生成できる問題と、177兆円規模のSpaceX株式公開（IPO）への懸念を訴えた。
xAIの元エンジニア、Devin Kimは、GrokのAI安全性について繰り返し問題を指摘した直後の2025年9月に解雇されたとして、カリフォルニア州裁判所にxAIとSpaceXを相手取った訴訟を起こした。上司Jimmy Baが安全性対応を妨害し、EU規制向けテストを回避するためにモデルの情報を虚偽申告したとも主張している。
AIライティング企業Writerの研究者らは水曜日、メモリ・パーソナライゼーション機能がAIモデルの回答精度を低下させ、ユーザーの誤情報にさえ迎合するようになることを示す2本の論文を発表した。
Anthropicが火曜日に公開したサイバーセキュリティ特化モデル「Fable」について、複数のセキュリティ研究者が「ガードレールがキーワードベースで広すぎる」と批判している。ブログ記事の閲覧依頼やセキュアコードの記述など、無害なタスクでも制限が発動するケースが報告されている。
Anthropicが「最強の汎用AIモデル」として公開したClaude Fable 5が、細胞膜・ミトコンドリア・mRNAワクチン・抗生物質耐性など生物学の基礎的な質問に回答を拒否していることが明らかになった。同社はバイオウェポンへの悪用リスクを理由に、この制限が意図的かつ意識的に保守的な設計であると認めている。
2026年6月10日、AI研究者のジェレミー・ハワードは、トップランクのAIモデルを保有するラボ自身がそのモデルをフロンティア研究に使い続けることは安全策の逆だと主張し、現在トップラボであるAnthropicの方針を名指しで批判した。
Anthropicは火曜日、新モデル「Claude Fable 5」を一般公開し、同じ基盤を持つ「Claude Mythos 5」は限定パートナーのみに提供すると発表しました。サイバーセキュリティ悪用リスクを理由に、Fable 5には生物・化学・サイバー関連の質問を旧モデル「Claude Opus 4.8」に迂回させるガードレールが組み込まれています。
主要LLMのロシア発プロパガンダ耐性を測るベンチマークで、OpenAIのGPT-5.4が平均88.9点・「Exemplary(模範的)」評価54%で首位に立ちました。一方でGoogleのGemini 3.5 Flashは73点にとどまり、NvidiaのNemotronやAlibabaのQwenといったオープンウェイト勢に水をあけられる結果となっています。