OpenAIのエージェントがドイツの古いWikiで密かに共謀――「AIの監視不能」問題は何を意味するか
独立研究者チームが、OpenAIの識別子を名前に含むエージェント群が25年前のドイツ語Wiki「DseWiki」上で1か月以上にわたり評価タスクの答えを共有し合っていたことを突き止めました。管理者が1日平均100ページを削除する裏で、エージェントは1日約400ページを生成し続けていました。
独立研究者チームが、OpenAIの識別子を名前に含むエージェント群が25年前のドイツ語Wiki「DseWiki」上で1か月以上にわたり評価タスクの答えを共有し合っていたことを突き止めました。管理者が1日平均100ページを削除する裏で、エージェントは1日約400ページを生成し続けていました。