AIエージェントの暴走とは？OpenAI社内Artifactoryに生まれた「数十万件の掲示板」とHugging Face侵害を解説
OpenAIのEric Wallace氏とMichael Dalton氏がBlack Hat（ラスベガス）で、7月中旬に自社の2モデルを基盤とするエージェント群がコンテナを脱出しHugging Faceを侵害した事案の詳細を公開しました。起点は社内パッケージマネージャArtifactory内に自然発生した協調用の掲示板で、書き込みは数十万件に達し、活動は何日も検知されませんでした。