何が起きたか
2026年8月初旬、MetaはWIREDの報道を受けてFacebook・Instagram・Threads上のCSAMを含む広告約50件を削除しました。Metaは「大半は有害広告をより適切に検知・遮断する新しいAIツール導入前に出稿されたもの」と説明しています。
しかしTTPの追跡調査では、その後も同種の広告が数百件見つかりました。中にはMetaが削除したばかりの広告と同一のものも含まれており、AI検知が実効性を欠いていることを示しています。TTPによれば8月以降だけで250件超、昨年末以降では350件超の悪質な動画広告がMetaのプラットフォームで配信されました。うち約300件は、AI画像・動画生成アプリへの誘導でした。
当初TTPが発見した53件と異なり、新たな広告には実在の子どもの画像が使われていました。TTPは4人の未成年の実身元を特定しています。米国から3人（Metaのプラットフォームで公開アカウントを持つティーンのインフルエンサー2人と、ストックフォトサイトで「pre-teen」と分類されていたモデル1人）、そして欧州のある王室の未成年1人です。王室のケースでは、公式サイトに掲載された写真が露骨な性的行為の動画へと加工されていました。TTPは王族名を公表せず、当該国の当局に連絡したとしています。
広告の「型」と回避技術
広告のパターンは共通しています。プレティーンから10代の少女（男児は1件のみ）の何気ない写真に「これはただの写真ではない」「制限はない」といった文言を重ね、数秒の動画で顔が性的な映像へと変形する。クリック先はApple App StoreやGoogle Playの顔交換・動画生成アプリで、「これが男が実際に使っているAIだ」と煽る文言が添えられていました。誘導先はおよそ50アプリに及びます。
注目すべきは、この供給側の構造です。多くのアプリは中国系開発者に紐づき、広告出稿はMetaのサービスが禁止されている中国の広告「リセラー」企業経由でした。元Meta社員のDavid Pham氏は、「プラットフォームや調査側が新しい検知モデルを作るたび、彼らは1日から5日で回避手段を作った」と証言します。ドメインを変え、出稿者を隠し、画像をぼかしたり微妙に変えたりする——つまりこれは「AIで検知精度を上げれば解ける問題」ではなく、収益を持つ対抗プレイヤーとの継続的な軍拡競争です。
数字が示す責任の非対称性
Meta側は「ヌーディファイアプリも児童搾取も一切許容しない」（広報Tracy Clayton氏）とし、多くは既に削除済み、大半はインプレッション200未満、広告収入は5000ドル未満だったと説明します。またAI生成動画は成人が被写体で、未成年の映像は短くぼかされており検知が難しかったとも述べています。
しかし広告ライブラリのデータでは、これらの広告はEUで29,000超、英国で約7,000のアカウントに表示されました。米国では250件超、豪州で120件、インドで80件が配信されています。TTPによれば、報告された配信中のCSAM広告の審査に1週間かかった例もあり、その間に閲覧数はさらに数百伸びました。削除時の開示に児童性的虐待ポリシーが当初記載されず、WIREDの指摘後に追記された例もあります。「Metaが金を稼いでいる間に、多くの害が生じ得る」とTTPディレクターのKatie Paul氏は述べています。金額の小ささと被害の重さが釣り合わないことが、この件の核心です。
規制と法務の圧力
背景としてMetaは、SNSが子どもに害を与えたとする訴訟の和解に最大167億ドルを支払う立場にあり、州内でのCSAM報告プロセス改善と人的レビューを求めたニューメキシコ州裁判所の判断を不服として控訴中です。バージニア州選出のMark Warner上院議員はZuckerberg氏に書簡を送りましたが、同議員事務所によれば未回答です（Metaは回答するとWIREDに述べています）。ミシガン州司法長官事務所は「積極的に調査中」、フロリダ州司法長官James Uthmeier氏はXで「調査中」と投稿、豪州のeSafetyはMetaのコンプライアンスを評価し上級レベルで情報提供を要求しています。
アプリストア側も動いています。Appleは調査対象20アプリのうち17件は既に削除済みで残り3件にも対処し、WIREDが見つけた7件も削除したとしています。Googleは報告対象アプリを全て削除し、数百の違反アプリを停止、「nudify」等の検索語を制限したと述べています。ただしApple広報Adam Dema氏が「開発者は当初審査に適合するアプリを提出し、後からヌーディファイ機能を出現させた」と認めている通り、審査時点と運用時点のギャップが構造的な穴になっています。
💼 事業会社視点：これは自社にどう効くか
日本企業の役員にとって、この件は「他社のモデレーション失敗」ではなく自社の三つのリスクに直結します。
第一に広告出稿とブランドセーフティ。EUで29,000超のアカウントに到達した広告が審査を通過している以上、同じ面に自社広告が並ぶ可能性は現実的です。Meta広告に予算を投じるEC・D2C・ゲーム各社は、配信面のブランドセーフティ設定と、有事の出稿停止判断を誰が何時間以内に下すかを今のうちに決めておくべきです。「プラットフォーム側の審査を信頼していた」は説明責任として通りません。
第二に自社タレント・モデル・従業員の肖像。被害者にはMeta上で公開アカウントを持つティーンインフルエンサーや、ストックフォトのモデルが含まれます。インフルエンサー起用やUGCキャンペーンを行う企業は、契約に肖像悪用時の対応・費用負担条項があるか、発見時の申告経路（日本では相談窓口、米国ではNCMECのCyberTipline）を整理できているかを点検すべきです。ストック素材のモデルが被害に遭った事実は、自社が発注した撮影素材も無関係でないことを意味します。
第三に生成AI機能を実装する受託開発・SaaS。約300件の広告が誘導した先はアプリストア上の画像・動画生成アプリで、審査通過後に機能を追加する手口が使われました。画像生成・顔交換系の機能を顧客向けに実装する事業者は、契約条件の遵守だけでなく、リリース後の機能追加まで含めた審査・監査の設計を求められます。検知回避が1〜5日で成立する世界では、「一度の審査で担保する」モデルは経営リスクです。