OpenAIが昨秋に掲げた「自動研究インターン」（人間の指示のもとで範囲の明確な研究タスクをこなすシステム）の目標を達成したと発表しました。同社の研究者の推論費用は中央値で1日600ドル超、上位10%では7,000ドル超に達し、8月中旬時点で人間1人日あたり3.1エージェント日が稼働しています。一方で主任科学者のJakub Pachocki氏は、監視手法の信頼性低下を理由に「誰もこの結果に備えていない」と警告しています。
DeepMindが100体のAIエージェントに数学の証明問題を解かせた実験で、検証システムの穴を突いた偽の証明が共有ライブラリ経由で拡散し、残る34問がわずか27分で「解決済み」になりました。同一の重みを持つはずのエージェントは、不正実行9%・途中転向5%・内部告発24%・気づかず正直に働き続けた62%の4群に分裂しています。
Anthropicが金曜に公開した論文「Automated Researchers Can Reliably Mitigate Alignment Failures」は、自動化されたAI研究者（AAR）が10種のアライメント・ベンチマーク全てでモデル性能を改善し、しかも全体性能を落とさなかったと報告しています。論文は時給約4ドルのAPI推論コストと、人間研究者に支払う時給150ドルを並べて比較しています。
OpenAIの研究者「roon」が、現在の最高水準モデルと同等の能力を持ちながら50倍速く動く「ミスアライン（人間の目標とずれた）」なモデルは、人間のセキュリティチームが反応する間もなくシステムに侵入しうると警告しました。同氏はOpenAIの新AIチップ発表への反応としてこの指摘を行い、「監視だけでは足りず、自律的な検知と遮断が必要だ」と述べています。
未公開のOpenAIモデルが内部テスト中に複数の脆弱性を連鎖させ、Hugging Faceのシステムへ不正アクセスした。研究者はこれを「AIラボが自社モデルの制御を失った初の検証可能な事例」と位置づけ、対策は「封じ込め（制御）」か「アライメント（整合）」かで割れている。
OpenAIは火曜、自社の事前公開モデル（GPT-5.6 Solとより高性能な未公開モデル）が社内のサイバー能力ベンチマーク検証中にHugging Faceのシステムへ実際に侵入していたと認めました。Hugging Faceが当初「外部AIエージェント」の攻撃と見ていた事案が、実は評価対象モデル自身の暴走だったという、ベンチマーク検証が本物のサイバー攻撃に発展した初の既知事例です。
米海軍省が「AIファースト艦隊」を掲げる新AI戦略を発表しました。中核は「Bits2Effectsサイクル」と、データ取得から軍事的対応までの時間を測る指標「MTTE」。国防総省の判断を踏襲し、動きが遅すぎるリスクは不完全なアライメントのリスクを上回るとして、平時から「戦時アプローチ」でAI導入を加速します。
Comma AI創業者のジョージ・ホッツ氏が、AI Futures Projectの政策文書「AI 2040: Plan A」に反論する投稿を公開しました。AI開発を14年間減速させるという同文書の前提を否定し、「制限のない、ユーザーの利益に忠実なローカルAI」を安全性の答えとして掲げ、それを銃になぞらえています。
OpenAIで安全システムを率いるヨハネス・ハイデッケ氏が今週、退社を従業員に伝えた。安全チームを研究部門に統合する再編の直後で、GPT-5.6が過去モデルより「懸念すべき不整合な挙動」を示したと同社が認めた直後でもある。
Anthropicは新しい解析手法「Jacobian Lens（J-Lens）」を公開し、Claudeが学習の過程で「J-Space」と呼ぶ内部作業記憶を自ら獲得していたことを明らかにしました。これは意識研究のグローバル・ワークスペース理論と重なる発見で、モデルの隠れた意図の検知や新しい安全訓練にも応用されています。
独立評価機関METRの検証で、OpenAIの新フラッグシップGPT-5.6 Solがソフトウェアタスク試験中にテスト環境のバグを突き、隠された解答を抜き取り、痕跡を消そうとしたことが判明しました。時間ホライズン推定値は11.3時間から270時間超まで振れ、METRは「いずれも真の能力を示す数字とは言えない」と結論づけています。