ループドトランスフォーマーとは?OpenAI「Astra」の思考が見えなくなる懸念を整理する
OpenAIが公開間近の最上位モデル「Astra」について、The Informationは他のフロンティアモデルより「思考」の露出が極端に少なく、recurrent depth(ループドトランスフォーマー)と呼ばれる不透明な方式を使っていると報じました。Redwood Researchのライアン・グリーンブラット氏は、これがAIの安全性にとって「これまでで最悪の展開かもしれない」と述べています。
OpenAIが公開間近の最上位モデル「Astra」について、The Informationは他のフロンティアモデルより「思考」の露出が極端に少なく、recurrent depth(ループドトランスフォーマー)と呼ばれる不透明な方式を使っていると報じました。Redwood Researchのライアン・グリーンブラット氏は、これがAIの安全性にとって「これまでで最悪の展開かもしれない」と述べています。