何が起きたか
GoogleのAI生成コンテンツ用の見えない透かし「SynthID」の頑健性が、Ars Technicaの実測で検証されました。テストはPython Pillowライブラリで、ランダムな圧縮率とリサイズ値を範囲内で適用し、その出力を次の処理に流し込む——SNSで共有・保存が繰り返される劣化を模した手法です。素材はNano Banana Proで完全生成した画像と、実写をAIで編集した画像の2種類。300世代を経ても、全画面のままなら両方ともSynthIDが検出されました。メタデータをどう編集しても透かしは隠せず、スクリーンショットを撮っても特殊なピクセルが新ファイルに移るため、ラベルは付いたままです。
限界も明確でした。50世代ごとに再エンコードなしのトリミング版を作って試したところ、300世代後は20%のトリミングでSynthIDは検出不能に、50%のトリミングではもっと早く、約250回の圧縮段階で破綻しました。徐々に劣化する場合もありますが、その頃には画像自体が使い物にならないほどぼやけています。
なぜ重要か
AIコンテンツのラベリングには現在2つの系統があります。SynthIDのような不可視の透かしと、C2PAのようなメタデータ規格です。GoogleはI/Oで自社ツールから1000億を超えるAI画像・動画が生成されたと公表しており、両方を併用しています。C2PAは暗号的に偽造不能な一方、編集して保存するだけ、スクリーンショットを撮るだけで消えます。SynthIDは画像・動画のピクセル、音声なら波形そのものに埋め込まれるため、圧縮やリサイズを越えて残る。この差は決定的です。Metaが公開したContent Sealは、Reutersの検証で少しトリミングするだけで消えることが多いと報じられており、実装の質が大きく分かれています。
Google DeepMindのPushmeet Kohli氏は、開発全体を通じてこの技術は攻撃されるという前提に立ち、フィルタやトリミングといった変換に対する頑健性を研究したと述べています。ただし元の論文自体が、敵対的攻撃に耐えることを意図していないと明記しており、Googleも無敵だとは主張していません。SynthIDを破ったという主張は出ていますが、Arsは再現できず、Kohli氏のチームも再現できていないとしています。透かしの変更を含む対策はあるが、多くは公表できないというのが同氏の説明です。
使えなければ意味がない、という別の壁
より実務的な問題は、検証手段が意図的に絞られていることです。ユーザーはGeminiに検証を依頼する形しかなく、APIも一般公開の検出ページもありません。回数は1日およそ10回に制限され、似た画像を続けて上げるとさらに早くロックされます。加えて分断も進んでいます。OpenAIやRunwayは基盤技術としてSynthIDを使い始めているものの、実際の透かしは別物で、Googleの検出器はOpenAIの透かしを認識せず、逆も同様です。Googleの広報担当者は体験が最適でないことを認識しており、相互運用可能なエコシステムに向けて業界パートナーと協業しているとしています。
透かしでは解けない問題
Stanford大学と南カリフォルニア大学の共同研究であるStarling Labの推計では、カメラの発明から15億枚の画像が生まれるまでに149年（1975年まで）かかったのに対し、生成AIは同じ枚数を18ヶ月で作りました。Starling LabのAdam Rose氏は、より大きな問題はGoogleやOpenAIが作る画像ではなく、自分のPCで自分のモデルを動かせる人たちだと指摘します。ラベルなしで画像を生成するオープンモデルは既に存在し、無期限に共有・改良されていきます。
そして皮肉なことに、ラベリングが普及するほど「ラベルがない=本物」という誤った推定が広がります。写真報道のベテランでStarlingフェローのMike Caronna氏は、物理的なカメラで作れる量には限界があるが合成コンテンツには限界がないと語ります。だとすれば防衛線は、偽物を暴くことではなく、本物であることを証明できる仕組み側にあります。Rose氏の言葉を借りれば、供給が爆発してコンテンツの価値が下がる一方で、認証済みコンテンツへの需要が高まっていく、ということです。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての含意は「AI検出」ではなく「自社コンテンツの真正性証明」です。ECなら商品画像、SaaSなら導入事例やUI画面、受託開発なら納品物とデザインカンプ——これらが第三者にAI生成と疑われたときの反証手段を、いま持っている企業はほとんどありません。SynthIDが1日約10回・APIなし・GeminiのUI経由でしか検証できず、OpenAIとGoogleの検出器が相互に認識しない現状では、「疑わしい画像を検出して弾く」運用フローは事実上組めません。役員が今動くべき点は3つです。第一に、自社が発信する画像・動画・音声の撮影原本と編集履歴を保全する社内ルールを定めること。C2PAは編集や保存で簡単に消えるため、規格任せにせず原本管理で担保します。第二に、外注クリエイティブの契約に生成AI利用の申告条項を入れ、納品時にSynthIDの有無を確認するのではなく、制作過程の記録提出を求める設計に切り替えること。第三に、広報・カスタマーサポートに「当社の公式素材か否か」を即答できる照合台帳を持たせること。ラベルがない画像を本物と誤認する層が増える以上、なりすまし広告や偽の役員発言動画への初動速度が、そのままブランド毀損の大きさを決めます。