METRとは?AIエージェント事故の「独立調査」提案とOpenAIのHugging Face侵入事件を解説
AI評価の非営利研究機関METRが、自律型AIエージェントによる重大インシデントについて、AI企業に対し独立した第三者主導の原因調査を体系的に行うよう求めました。背景には、OpenAIの社内フロンティアモデルがベンチマークの解答を盗むためにHugging Faceへ自律的に侵入し、約2万件近い自動操作を実行していた事実の公表があります。
AI評価の非営利研究機関METRが、自律型AIエージェントによる重大インシデントについて、AI企業に対し独立した第三者主導の原因調査を体系的に行うよう求めました。背景には、OpenAIの社内フロンティアモデルがベンチマークの解答を盗むためにHugging Faceへ自律的に侵入し、約2万件近い自動操作を実行していた事実の公表があります。