「自社だけ使うのは安全ではない」——ジェレミー・ハワードがAnthropicのAIフロンティア研究方針を批判

ハワードが提示した「自己規制」の論理

ジェレミー・ハワードは、AIの安全性を巡る議論において、一つの具体的な政策案を提唱した。「最上位モデルを保有するラボは、そのモデルをフロンティアAI研究に使用しないことに合意すべきだ。他の組織には引き続きアクセスを認めながら」というものだ。

この考え方の根拠は二点ある。第一に、トップラボ自身がトップモデルを研究に使わなければ、再帰的なAI自己改善（AIがAIを改良するサイクル）のフロンティアが前進しなくなる。第二に、特定のラボだけが最先端モデルを独占的に研究利用する状況が生み出す「危険な権力の非対称性」を避けられる。

AnthropicはこのロジックとAIに逆行している

ハワードの主張によれば、現在トップラボの地位にあるAnthropicは、このロジックとは正反対の選択をしている。Anthropicは自社の最上位モデルをフロンティアAI研究に活用することを自ら認める一方、他組織が同様の試みをすることを妨害すると表明しているという。

ハワードはこの状況を「AIフロンティアが前進し続け、権力の非対称性が拡大する」と評した。AI開発を「減速すべき」と訴えながら、自組織だけはその恩恵を享受する構造への疑義だ。

ハワード自身の立場：民主化を支持

ハワードは自身の見解も明確にしている。彼個人は再帰的なAI自己改善を遅らせることを支持せず、むしろ「できる限りオープンに、民主的に広げるべき」と考えている。

今回の批判は、その立場からではなく、論理的一貫性への問いかけだ。「もしあなたが『AIを減速すべき』と主張し、かつ最良のモデルを持っているなら、自分の組織がそれを使えないよう確保すべきだ」——ハワードはそう述べている。

なぜこの議論が重要か

AI安全論の文脈で「減速」「規制」を訴える組織が、競争上の優位を手放さずにいることへの矛盾は、業界全体のガバナンスのあり方に関わる問題だ。誰が何を根拠に最先端研究へのアクセスを制限・独占できるのかという問いは、今後の国際的なAI政策議論でも避けられないテーマとなっていく。

出典：Simon Willison