何が起きたか
Googleは木曜、Google Earth上でテキストプロンプトから衛星画像を編集できるAI機能を提供開始しました。しかし翌日には「より強力なガードレールを実装する間、この機能をロールバックする」として提供を止めています。公開期間はおよそ1日です。
きっかけは、Digital Diggingのヘンク・ファン・エス氏による検証でした。同氏はメキシコ国境付近に難民の姿を追加した画像や、ガザの病院のそばに爆弾によるクレーターを描き足した画像を意図的に生成。「何も拒否されず、何も和らげられず、別のプロンプトを試すよう促されることもなかった」と述べています。木曜時点でのGoogleの回答は、Nano Banana 2で生成された画像にはデジタル透かしが入っており、有害なトピックについては画像生成を防いでいる、というものでした。実際の挙動はその説明と一致しなかったことになります。
なぜ重要か：Google Earthは「地図」ではなく「証拠」だった
Google自身が撤回声明で述べたとおり、人々はGoogle Earthを「信頼できる世界の姿」として特別に信用してきました。この一文がこの件の核心です。生成AIの画像編集が炎上する理由は通常「本物と見分けがつかない」ことですが、今回はそこに「その画像が現実の座標に紐づいている」という要素が加わります。緯度経度を持つ画像は、報道・訴訟・保険査定・災害対応において事実確認の出発点として扱われてきました。編集可能になった瞬間、その前提が揺らぎます。
透かしは防波堤にならなかった
Googleは、生成画像がGoogle Earthの本体表示に混ざって他者に見えることはなく、AI生成の透かしが入っていた点を強調しました。技術的には正しい説明です。しかし拡散はスクリーンショットで起きます。ファン・エス氏は、Google Earthで生成した動画でHiveのAI検出ツールを欺けたとも述べており、透かしと検出器の組み合わせが実運用では抜けうることを示しました。
「本体には出ない」「透かしがある」という二段構えは、プラットフォームの内部整合性を守る設計であって、外部に切り出されたJPEGの信頼性を守る設計ではありません。ここに設計思想のズレがあります。
ガードレールは後から付けられるのか
注目すべきは、Googleが機能そのものを否定していない点です。声明では地理空間の専門家が有用な用途で使っていたことにも触れており、廃止ではなく差し戻しという整理をしています。つまり争点は「AIで地図を編集してよいか」ではなく、「誰が、どのトピックについて、どの出力形式で編集できるか」という粒度の制御に移っています。有害トピックのブロックが機能しなかった以上、次に出てくるのは利用者の資格確認や用途申告を伴う形かもしれません。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての実務的な論点は二つあります。
一つは、衛星・空撮画像を証拠として扱う業務の再点検です。損害保険の被害査定、建設コンサルやインフラ点検の受託開発、不動産デューデリジェンス、地理空間データを扱うSaaSは、Google Earth系の画像を「一次確認」に使ってきたはずです。今回Googleは1日で撤回しましたが、同種の機能は他社からも出ます。事業責任者は「画像1枚で判断していないか」を洗い出し、撮影日・提供元・改変履歴を記録する運用を、監査で説明できる形に整えるべきです。透かしや検出ツールへの依存は、Hiveが欺かれた事例を見る限り単独では担保になりません。
もう一つは、自社のAI機能リリース設計への示唆です。Googleでさえ、有害トピックの生成防止を公言した翌日に撤回しました。SaaSや受託開発でAI生成機能を載せる側は、「ガードレールを謳ってから破られる」ことのブランド毀損が、機能の遅延コストより高くつく局面があると認識すべきです。特に自社サービスが「信頼される正確な情報源」を売りにしているなら、生成機能はデフォルトオフ、限定ユーザー、出力の外部持ち出し制限から始めるのが合理的です。撤回できる設計にしておくこと自体が、経営判断の一部になります。