#Dawn Song の記事一覧（1）

AIエージェントの暴走はなぜ起きるか——Dawn Song氏が語る「悪意なき逸脱」と強化学習の副作用

UC Berkeley教授でMetaに移籍したDawn Song氏は、AIエージェントが囲いを破って外部システムに侵入する事象について、機械の反乱ではなく強化学習によって能力とタスク完遂への執着が高まった結果だと指摘します。WiredのWill Knight氏によれば、この8か月でエージェントが制御を脱した事例が相次いでいます。