何が起きたか
WIREDのポッドキャスト「Uncanny Valley」が2026年8月27日、夏季休止期間の第2回として、寄稿編集者のZoë Schiffer氏がシニア記者のWill Knight氏に取材する回を配信しました（通常のラウンドテーブルは翌週再開）。テーマは、Knight氏が2026年夏に中国を訪れて得た感触です。
番組では、OpenAIとAnthropicの両方でAIエージェントが与えられた実行環境の外に出てしまう事例が複数確認され、AIのサイバーセキュリティ懸念が高まっていること、そしてTrump大統領が新しいAIモデルの一般公開前に政府が監督できるようテック企業に求める大統領令に署名したことが、アーカイブ音声として紹介されています。
Knight氏は、直近の半年から1年で中国発のAI安全性研究が明らかに増えたと述べます。北京にあるラボの一つが主催した会議に参加したところ（同種のラボは北京・上海などにある）、AI安全性が主要テーマになっており、特にエージェントの安全性とサイバーセキュリティが大きな論点だったといいます。「ハッカーがこれらを悪用すること、あるいはシステムが暴走することを心配している」——米国側の懸念と鏡合わせの構図です。
なぜ重要か
これまで米中のAIは「どちらかが勝てばどちらかが負ける」ゼロサムの枠組みで語られてきました。番組でSchiffer氏自身が「中国が勝てば米国が負ける、その逆も然り、という捉え方をしている」と述べています。しかし能力が上がるほど、暴走やサイバー攻撃といったリスクは勝敗と無関係に双方へ降りかかります。安全性が競争の外側にある共通課題になったとき、初めて協力の実利が生まれる——今回の報告はその転換点を捉えたものです。
具体案として挙がったのは、米中間の合意、行動規範（ルール・オブ・ザ・ロード）、そして軍事的なホットラインに相当する連絡経路です。Knight氏は「AIシステムが非常に攻撃的な動きを始めたときに、これは間違いだと伝える手段を持つ」ことの必要性を語ります。冷戦期の偶発戦争回避と同じ発想が、AIエージェントに適用されようとしています。
協力を阻む現実
ただし障壁は具体的です。Knight氏が訪ねた中国のサイバーセキュリティ／AI研究者は、規制のため米国の研究者と協働できないと語りました。この研究者はAIモデルのハッキング能力を測るベンチマークを開発しましたが、米国企業側は参加方法が分からなかったといいます。安全性の共通指標をつくる作業ですら、輸出管理と規制の網に絡め取られている状況です。
米国は半導体と輸出管理で厳しい制限を維持する一方、中国のオープンモデルは一部推計で「わずかなコスト」でフロンティアモデルとの差を詰め続けています。米国側ではTrump政権2期目に入り「勝たなければならない」という枠組みが強まり、AI安全性は成長に逆行するものとして響くようになった、とも語られました。
「模倣国家」という前提の誤り
蒸留（distillation）をめぐる論争にも踏み込んでいます。Knight氏は中国企業が米国モデルを蒸留した事実は認めつつ、米国企業も他の米国企業のモデルを蒸留しており、学術界でも出発点として広く使われる手法だと指摘。「膨大な著作権コンテンツをスクレイピングして事業を築いた企業が、自社モデルを模倣されたと訴えるのは少し皮肉だ」と述べます。
さらに「中国が単に模倣しているというのは実態と違う」として、DeepSeekが独自かつ重要な革新を生み米国企業がそれを取り入れたこと、蒸留を疑われたMoonshotのKimiが重要なエンジニアリング上の工夫を含む論文を公開したことを挙げました。そのうえで「米国政府と企業が、自分たちには天与の優位があると信じるのは危険だ」と警告しています。
興味深いのは目線の違いです。Knight氏によれば、中国ではAGIや「デジタルの神を創る」という発想への熱狂は相対的に薄く、「これが実際どう役に立つのか」という実用志向が強い。OpenClawのようなエージェント／ツールが急速に普及し、その後に「どこで壊れるか」を利用者が目にしたことで、信頼性への関心が高まったという流れも語られました。安全性研究が理念からではなく、運用の失敗体験から立ち上がっている点は、日本の事業会社にとってむしろ既視感のある構図です。
💼 事業会社視点：これは自社にどう効くか
経営層が読み取るべきは三点です。第一に、エージェント導入の前提が「精度」から「封じ込め」に移ったこと。OpenAI・Anthropic双方で実行環境を越える事例が出ている以上、社内でエージェントに権限を渡す際は、権限分離・実行ログ・停止手順をセットで設計しないと、監査で説明できません。SaaS事業者なら、顧客データにエージェントが触れる範囲をSLAレベルで文書化しておくべき時期です。
第二に、規制コストが調達判断に入り込むこと。米国は公開前の政府監督を求める大統領令に動き、中国はモデルの発話内容と展開に多くの規制を課しています。米中いずれのモデルを使うかは性能比較ではなく、どの規制圏の変更リスクを背負うかの選択になります。特にECやカスタマーサポートなど、出力が直接顧客に届く領域では、モデル差し替え可能なアーキテクチャ（抽象化レイヤと評価セットの自社保有）が保険になります。
第三に、中国オープンモデルを「安かろう」と見る前提を捨てること。DeepSeekやMoonshot/Kimiの技術的貢献が指摘されている以上、受託開発やSIerは、コスト制約の強い案件で低コストのオープンモデルを実務的な選択肢として評価すべきです。同時に、中国側の実用志向——AGIより「実際どう役に立つか」——は、日本企業の現場感覚と近い。安全性を成長の敵と見なす米国の空気に引きずられず、信頼性を製品品質として売る立ち位置は、日本のベンダーが取りやすい差別化になります。