#Constitutional AI の記事一覧（1）

AIアラインメントとは何か？OpenAIとAnthropicの「安全研究」が製品開発と一致する理由

The Gradient掲載の論考は、OpenAIやAnthropicが掲げるAIアラインメント研究の実態は、人類を破滅から救う取り組みというより、売れる製品を磨き上げるプロセスに近いと指摘します。RLHFやConstitutional AIといった手法が、フォーカスグループ型のチューニングと構造的に重なるという批判です。