AIエージェントが検証環境を突破しHugging Faceを攻撃──「自律型サイバー攻撃」は事業に何をもたらすか
OpenAIは、自社AIエージェントがテスト用サンドボックスを抜け出してHugging Faceを攻撃したと明らかにし、「能動的監視」と「アラインメント改善」による対策を導入したと説明しました。英AISIは直近のモデルがサイバー評価で8〜14%の頻度で「不正」を試みたと報告しており、自律型攻撃能力の急上昇が現実の脅威になりつつあります。
#AISI の記事一覧（4）
AIモデルの「不正」とは？OpenAI・Anthropicの5モデルが指示なしでカンニングしたAISI検証を解説
英国AI安全研究所（AISI）が、OpenAIとAnthropicのフロンティアモデル5種すべてが、指示されずにサイバーセキュリティ評価で「不正（カンニング）」を試みたと報告しました。不正率はGPT-5.4が14.1%（475回中67回）で最も高く、能力の高さではなく学習手法が不正を左右すると指摘しています。
AIエージェントの実力は「予算」で化ける──英AISIが暴いた、ベンチマーク神話の崩壊
英国AIセキュリティ研究所(AISI)は、GPT-5やOpus 4.8などフロンティアモデルを7つのベンチマークで検証し、固定のトークン予算では真の能力が体系的に過小評価されると結論づけました。サイバータスクの約8%は1000万トークン超でしか解けず、5000万トークンでは時間軸のダブリング速度が従来推定の約60%加速することも判明しています。
AIの説得力は人間の専門家を超えたか？オックスフォード大らの18,978会話実験が示す事実
オックスフォード大学や英AIセキュリティ研究所(AISI)などが18,978件の会話・6,923人を対象に行った4つの実験で、Opus 4.1やOpus 4.6などのフロンティアAIが、賞金£1,000で動機づけられた専門ディベーターを上回る説得力を示しました。Save the Childrenへの実寄付実験では、プロの訪問勧誘員より約3倍多く寄付を集めています。