生物学の基礎質問も拒否——設計上の制限
Anthropicが公開したClaude Fable 5は、生物学に関する基本的な質問を相次いで拒否していることが判明した。細胞膜やミトコンドリア、プリオン、mRNAワクチン、花粉症、喘息薬、抗生物質耐性、エボラ出血熱などを問う質問に対し、Fable 5は回答せず、代わりにClaude Opus 4.8への誘導を示す。一方で、がんやDNAに関する一部の質問には回答できたケースも報告されている。
なぜ制限するのか——バイオウェポン悪用が最大の懸念
Anthropicはこの制限が意図的なものであることを認めている。同社は「バイオウェポンに関連するリクエストをブロックするためのクラシファイアーはこれまでも使用してきた。Fable 5を安全に展開するには、生物学に関連するほぼすべてのクエリをブロックするほど過剰なほど保守的な安全策が必要だと判断した」と説明する。
また「この判断を下したのは、リスクを排除しながらもできるだけ早くモデルの能力をユーザーに届けるためだ」とも述べている。
Mythosクラスとは——公開が保留されてきた上位モデル群
Fable 5は「Mythosクラス」モデルに分類される。このカテゴリはサイバーセキュリティ能力の高さから、これまで公開が危険と判断されてきたモデル群だ。Anthropicは「Claude Fable 5の投入により、モデルが現実の科学的タスクをこなす能力が高まった一方で、悪意ある行為者が高リスクな生物学研究に悪用できる可能性も同時に高まったと認識している」と述べている。
制限対象として同社が明示しているのは、化学・生物学・サイバーセキュリティ・蒸留（distillation）の4分野。ただし、化学やサイバーセキュリティに関する質問にはFable 5が比較的回答しやすい傾向があるという。
今後の方針——生命科学コミュニティへの開放を検討
Anthropicは生物・ライフサイエンスのコミュニティに対しては、安全ガードレールを外した形でMythosクラスモデルを提供することを検討している。「バイオメディカル研究や創薬加速のために、より広い生物・生命科学コミュニティに対してはMythosクラスモデルをガードレールなしで提供する意向だ」と同社は述べている。
出典：The Verge（Robert Hart）
