FAA型規制の提唱

Anthropicの共同創業者兼CEO Dario Amodeiは、強力なAIモデルに対して米連邦航空局（FAA）の安全審査を模した政府規制の導入を求めるエッセイを発表した。Amodei氏は「フロンティアAIモデルは航空機と同様に、技術的なテストと監査を義務付けられるべきだ。公共安全への脅威となる場合は、リリースをブロックまたは差し戻すべきである」と述べている。

Amodeiは従来の透明性要件だけでは不十分と明言した。「Anthropicは長年、フロンティアAIへの透明性要件を支持してきたが、それはリスクをまだ正確に規制できるほど明確ではなかったからだ。もはやそれだけでは足りない」としている。

規制対象となる条件

今回の提案では、以下の条件を満たすモデルが規制対象となる。

  • 学習に**10²⁵回以上の浮動小数点演算（FLOPs）**を使用したモデル
  • AI収益が5億ドル超の企業、またはAI研究開発投資が10億ドル超の企業が開発したモデル

政府はこれらのモデルが生物兵器・サイバーセキュリティ・自律制御において深刻なリスクをもたらすと判断した場合、展開を阻止・遅延・抑止できる権限を持つ。またフロンティア開発者には、モデルの重みを外部の攻撃者や内部の脅威から保護すること、モデル蒸留攻撃の報告チャネルを整備することが求められる。

経済的影響への対応策

Anthropicは「Advanced AI Framework」と「Economic Policy Framework」の2つの政策文書も同時に発表した。経済政策文書はAIが労働の汎用代替手段となりうることを認め、失業率が5%、10%、さらにそれを上回る前例のない水準に達するシナリオを想定した備えを求めている。

具体的な政策として、賃金保険・ユニバーサルベーシックインカム・ソブリンウェルスモデルなどを提案している。Amodei氏は「そのような世界では、成長を促すことが課題ではなく、すべての人がその恩恵を共有できる方法を見つけることが鍵となる」と語る。

3億5000万ドルの資金コミットメント

財政面では、経済的混乱対策として合計3億5000万ドルを拠出する計画を示した。内訳は**「Economic Futures Research Fund」へ2億ドル**と、国家フェローシッププログラムへ1億5000万ドルとなっている。

新モデルの同時発表

今回の政策発表に合わせ、汎用性を高めた最新モデルClaude Fable 5と、高度なサイバー能力を持つClaude Mythos 5も公開された。

Amodei氏は「こうした政策アイデアの多くは政治的立場を超えた常識的な訴求力を持つ。早期に取り組むほど、すべての人がAIの恩恵を早く共有できる」と述べている。

出典：VentureBeat

関連リンク