何が起きたか
Anthropicは昨年、カリフォルニア州とニューヨーク州で、シリコンバレー各社が反対する中でも透明性義務を含む「フロンティアAI安全法」を後押ししました。ところが同社は今、それらの法律を「すでに古くなっているかもしれない」とし、より厳しい規制を州に求めています。
担当は今年入社した米国州・地方政府渉外責任者のCesar Fernandez氏(FanDuel、Uber出身)。同社はイリノイ州で安全プロセスの第三者監査を求める案を、マサチューセッツ州で第三者監査に加え州司法長官が違反企業へ差止請求できる政策を支持しました。
なぜ「自己申告では足りない」のか
同社は「透明性と自己申告(self-reporting)は、最も強力なAIにとってもはや十分な安全策ではない」と主張します。要は、ラボが自分で「安全です」と報告する仕組みから、外部監査が検証する仕組みへの移行を求めているわけです。先月公開した政策文書では、危険とみなされたモデルの展開を政府が差し止められる仕組みも提言していますが、その権限は州ではなく連邦政府に留保すべきだとしています。
「囲い込み」批判の構図
David Sacks氏は「恐怖を煽った巧妙な規制の囲い込み戦略」で中小スタートアップを規制の網に絡め取り、自社の地位を固める狙いだと非難しました。Fernandez氏はこれを否定し、支持したのは「開発費数億ドル・年間売上5億ドル超」といった大規模開発者に限る法案だけだと反論します。ただしSafe Superintelligence、Thinking Machines Lab、Mistralなど数十億ドルを調達したスタートアップは、売上はまだ低いものの基準に該当し得ます。
批判は他の論点にも及びます。同社は先月、Alibabaがモデルからの蒸留(distillation)攻撃で情報を抽出したと米政府に書簡で訴えましたが、一部研究者はこれを「中国のオープンウェイト・モデルを禁止させるための口実」と見ています。Fernandez氏は、Anthropicはオープンソースを狙い撃ちしておらず「構築方法ではなく能力(capabilities)」で線を引いていると説明します。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての含意は「AI規制のコストが、性能の絶対水準で決まる時代」への備えです。今回の対象は年間売上5億ドル超・開発費数億ドル級の大手であり、大半の日本企業は当面直接対象外です。しかし論点が「誰が作ったか」ではなく「モデルの能力がどこまで来たか」に移った点は重要です。
APIでフロンティアモデルを組み込むSaaSや受託開発では、上流の大手ラボが第三者監査や展開差止の対象になれば、供給の突然停止リスクが現実になります。実際、Anthropicは輸出管理指令を受けてMythosとFable 5を全ユーザー向けに一時停止しました。特定モデルに依存する製品設計は、代替モデルへの切り替え手順とSLA上の免責条項を今のうちに整えるべきです。
ECや事業会社の経営者は、自社が「大規模開発者」の閾値に近づく前に、能力ベースの規制動向をウォッチする体制を持つこと。監査対応は後付けだとコストが跳ね上がるため、AIのリスク文書化を早めに標準業務へ組み込むのが実務的な打ち手です。