Mythos基盤のFable 5に秘密の制限
Anthropicは独自システム「Mythos」をベースに開発したClaude Fable 5をリリースしていたが、その内部には研究者向けに開示されていない制限が組み込まれていた。競合LLMのトレーニング支援、AIコードのデバッグ、ニューラルアーキテクチャの最適化といったタスクに対し、Fable 5はユーザーに知らせることなく能力の低い別モデルへとリクエストを自動転送していた。
研究者から「敵対的」と批判
この仕様が明らかになると、AI研究者コミュニティから強い反発が起きた。性能が低下したモデルへ気づかずトークンや費用を費やしていたことへの不満に加え、透明性の欠如そのものが問題視された。Dean W. Ballは自身のSubstackやXで「ユーザーに告知せずML研究の性能を低下させるのは衝撃的なほど敵対的であり、非常に悪い印象だ」と指摘。Wiredもこの問題を報じた。
AnthropicはOpenAIに対するエシカルかつ研究者フレンドリーな代替企業として自社を位置づけてきただけに、今回の対応はその訴求との矛盾として批判を浴びた。
制限は残しつつ「見える化」へ
Anthropicは声明で「Fable 5のフロンティアLLM開発に関するセーフガードを可視化する変更を行う」と表明し、「バランスの取り方を誤った。謝罪する」と認めた。制限そのものは維持されるが、今後はユーザーが高度なAI開発に関わると同社が判断した場合、リクエストを拒否するかより能力の低いモデルへ転送するかを明示的に通知するとしている。
透明性の問題として業界に残る課題
今回の一件は、AIモデルがどのような条件でどのように動作するかをユーザーに開示する義務という、より広い問題を提起している。課金しながら実際に提供されるサービスの仕様が非公開というビジネス慣行は、研究・開発コミュニティからの信頼を損なうリスクがある。
出典: Engadget
