「1〜2年以内にPowerful AI」——指数関数的成長への警鐘

AnthropicのCEO Dario Amodei氏は、「Policy on the AI Exponential」と題したエッセイと2つの付随政策フレームワークを公開しました。Amodei氏はAIの能力がコンピューティング資源の拡大とともに指数関数的に伸びると論じ、「Powerful AI」が1〜2年以内に実現すると予測しています。

政治システムの対応の遅さを表現するにあたり、『指輪物語』に登場するゆっくりと動く巨人Treebeardsを引き合いに出し、急速に進化するAIリスクに政策が追いついていない現状を指摘しました。

4領域での義務的監査と政府によるモデル差し止め権限

Anthropicはこれまで透明性法案への支持姿勢を示していましたが、今回の提言では立場を大きく転換し、第三者機関による強制審査を求めています。対象リスク領域は「サイバーセキュリティ」「生物兵器」「制御喪失」「自動化されたR&D」の4つです。

提案された「高度AIフレームワーク（Advanced AI Framework）」は、最も能力の高いモデル開発者のみを対象としており、コンピュート使用量10^25 FLOP超、AI収益5億ドル以上、年間AI研究予算10億ドル以上といった基準が示されています。政府がリスクの高いモデルのリリースを阻止できる権限を持つべきとも主張しており、開発者には6ヶ月以内の独立評価機関の雇用と、深刻なセキュリティインシデントの15日以内の報告が義務付けられます。

失業率連動型の経済支援策

経済フレームワークでは、失業率をトリガーとした3段階の労働市場支援策が提案されています。失業率が約5%に達した段階でティア1の対応が発動し、約10%でティア2へ移行する仕組みです。AIが雇用市場に与える影響を段階的に吸収する設計となっています。

冷戦型地政学戦略——「海兵隊対中世の剣士」

地政学的な枠組みとして、Amodei氏は民主主義国連合がサプライチェーンを共有しながら敵対的な国々へのAI技術アクセスを遮断するという冷戦型戦略を提唱しました。AIを持つ国と持たない国の格差を「海兵隊と中世の剣士の戦い」に例え、技術的優位の決定的な重要性を強調しています。

Anthropicの足元——IPO申請とClaude Fable 5リリース

同社は6月初旬にSECへのIPO草案を提出したほか、新モデル「Claude Fable 5」もリリースしました。大規模な政策提言と同時期に、企業としての重要な節目を迎えています。

出典：The Decoder