#ProxySPEX の記事一覧（1）

SPEX／ProxySPEXとは？LLMの「単語の組み合わせ」が出力を歪める仕組みを解明する新手法

カリフォルニア大学バークレー校(BAIR)が、大規模言語モデルの内部で「どの特徴の組み合わせが出力を決めているか」を桁違いの規模で特定する手法SPEXとProxySPEXを発表しました。GPT-4o miniが改変版トロッコ問題に8%しか正答できない原因が、4単語の高次相互作用にあることを突き止めています。