何が起きたか
4月、Mibbby Butlerは行方不明の猫Brooklynが「見つかった」というメッセージを受け取りました。同居人の恋人が前日に猫を連れ出し、30分ほど離れたロサンゼルス郊外に捨てたとされる直後のことです。送られてきた写真には、キッチンカウンターの上でBrooklynが少女に抱かれている様子が写っていました。Butlerは一瞬「うちの子は無事だ」と思ったといいます。
しかし送信者は「一時預かりの費用」として前払いを要求。写真をよく見ると、猫のポーズはButler自身が投稿した迷子ポスターの写真とまったく同じで、背景にはTorani のシロップ瓶と電子レンジが写り、ラベルの文字は崩れていました。生成AIの典型的な兆候です。Butlerは支払わず、犯罪に当たるか判断がつかなかったため警察にも届けませんでした。4か月経った今もBrooklynは見つかっていません。彼女のもとには、月に一度ほどのペースで別人から同種のディープフェイクが届き続けています。
WIREDが検証したところ、ChatGPTは自身が生成した画像であることを確認した1枚があり、さらに元の迷子ポスター写真と29語のプロンプトだけで、詐欺師が送ってきたものとほぼ同一の画像を再現できました。
もう一方の被害者は「本物」
生成物の氾濫は、偽物を増やすだけでは終わりません。農場や動物園、実験施設での動物虐待を記録し、175人の報道写真家の作品を公開してきたWe Animalsは、いま逆の問題に直面しています。アリゾナ州の酪農場で母牛から引き離された子牛の小屋が整然と並ぶドローン映像は、あまりに完璧に見えるがゆえに「作り物では」と疑われる。今月にはInstagramで「AIじゃないとどう証明するの？」というコメントが付きました。同団体は写真家によるAI利用を禁じているにもかかわらず、です。
マーケティング担当のEva von Jagowは、衝撃的な題材そのものが懐疑を招くと語ります。ビジュアルコンテンツ責任者のVictoria de Martignyは、一度の疑念が「すべての活動を疑問視する扉を開けてしまう」「そんな立場には絶対に置かれたくない」と述べています。同団体は今後、撮影の舞台裏クリップや検証手順の公開に加え、ファイルに来歴と編集履歴を埋め込む技術の導入を予定しています。
「安いほうが勝つ」構造
哲学者で動物擁護活動家のOscar Hortaは、偽物のほうが圧倒的に安く作れるため、SNSのフィードや検索結果で本物のクリップを押し流していると指摘します。ホッキョクグマが溺れ、ボートの人々が救助するという映像を「ばかげている」「動物を助けるということの実態を表していない」と切り捨てつつ、Hortaが懸念するのはその先です。火災や洪水で野生動物が劇的に救出される映像が広まれば、人々は実際の救助手法を疑い始める。異常気象が増えるほど、資金集めは難しくなります。危険な模倣行為が動物を傷つける可能性も挙げています。
動きは制度側にもあります。ニューヨーク大学のCenter for Mind, Ethics, and Policyを率いるJeff Seboは今月、AI開発企業に対し、動物に害を及ぼしうる応答を抑制する記述をモデルのガイドラインに加えるよう働きかけを始めました。ただし彼は同時に、「証拠と理性に根ざすことの重要性を強調」しながらも「説教くさくなったり、過度に道徳的になったり、妥当な要求を拒否したりする」ことは避けるべきだとしています。
カリフォルニア州とEUの新法は、主要な画像生成AIに不可視のタグ埋め込みを義務づけ、SNS各社にはそのタグを使ったAI生成物の公開ラベル表示を求めます。ChatGPT、Gemini、Meta AIには自社製かを判定する機能もありますが、確認できる画像数に上限があるなどの制約があり、そもそも人々は一枚一枚を確かめる時間を持ちません。だからこそ、検証機能はメッセージアプリやブラウザに標準で組み込み、初期状態でオンにしたうえでプライバシー保護を施すべきだ、という筋が見えてきます。
ButlerはAI生成の猫動画を投稿するアカウントをブロックし続けていますが、新しいアカウントは次々と現れます。彼女はいま、AIに反対するアーティストが約30万人集まるFacebookグループで過ごす時間が増えました。
💼 事業会社視点：これは自社にどう効くか
この件を「動物の話」として読むと本質を外します。起きているのは、画像が証拠として機能しなくなったという事態です。
直接効くのはEC・C2Cです。フリマや中古売買、保険の損害査定、修理受付など「写真を根拠に金銭が動く」業務は、Butlerが受け取ったのと同じ構造の攻撃対象になります。迷子ポスター1枚と29語のプロンプトで本人しか知らない室内の様子まで再現された事実は、「見覚えのある背景が写っているから本物」という運用ルールが崩壊したことを意味します。返品時の破損写真、配送事故の証拠写真、本人確��の自撮り——ここに人力目視だけを置いている企業は、審査フローの再設計が急務です。
より厄介なのはWe Animals側の問題、つまり本物が疑われるコストです。日本企業でいえば、工場の品質改善レポート、サステナビリティ報告書の現地写真、施工実績、CSR活動の記録。これらが「AIでしょう」の一言で価値を失う日は近い。対策は撮影後ではなく撮影時にあります。来歴情報を埋め込むカメラ・編集ワークフローへの切り替え、撮影メタデータの保全、そしてWe Animalsが始めようとしている「舞台裏と検証手順を自ら開示する」運用。広報・IR部門の予算項目に「真正性の証明」を新設すべき段階です。
SaaS・受託開発には商機があります。カリフォルニア州とEUの法制化はタグ埋め込みとプラットフォーム側のラベル表示を義務化しました。日本企業が海外向けにコンテンツを出すなら対応は避けられず、CMS・DAM・入稿フローへの来歴対応組み込みは今後2〜3年の受注テーマになります。ChatGPTやGeminiの自社製判定機能に確認枚数の上限がある以上、業務量に耐える検証レイヤーは自前で用意するしかありません。