何が起きたか
TTPが先週、Metaの広告ライブラリを調査する中で、AI生成のCSAMや未成年を性的に扱った画像・動画広告を50件以上発見しました。配信先は米国、英国、欧州十数カ国で、男性のみをターゲットにしたものもありました。一部はいわゆる「nudify（脱がせる）アプリ」への誘導リンクを含んでいます。TTPはNCMECのCyberTiplineに通報し、WIREDの問い合わせを受けてMetaは広告を削除しました。Metaは児童性的搾取・成人向け勧誘の規約違反にあたるとしています。
「投稿」ではなく「広告」であることの意味
この件の核心は、ユーザーの投稿がすり抜けたのではない点にあります。TTPのKatie Paul氏は「これは第三者の投稿ではなく、Metaが審査し、承認し、配信を許可し、その間ずっと広告費を受け取っていた広告だ」と指摘しています。同氏によれば、広告は内容を隠す加工すらしていませんでした。つまり、UGCモデレーションの難しさではなく、収益を伴う審査プロセスそのものの失敗として問われる構図です。数週間のうちにCSAM関連広告が見つかったのはこれで2度目とされます。
透明性ツールが「保管庫」になっていた
もう一つの論点は、発見時点で多くの広告がすでに配信停止だったにもかかわらず、広告ライブラリ上に数カ月間、検知されないまま残っていたことです。透明性のための仕組みが、事後の自動チェック対象から外れていた可能性を示唆します。またライブラリには米国など一部の到達数が載らないため、実際のリーチは公表値より大きい可能性があります。
Metaの説明と、その射程
Metaは「多くはアップロード時に違反広告を検出・ブロックする新しいAI技術の導入前のものだ」「大半はリーチが限定的で、WIREDの指摘前に多くを無効化していた」と説明し、昨年3,600万件超の児童性的搾取コンテンツを削除したと強調します。ただ、この説明は「新技術の導入前は何カ月も素通りだった」ことの裏返しでもあります。生成AIによって違反コンテンツの制作コストがほぼゼロになった一方、審査側は導入時期の差でしか説明できない——供給と検知の非対称が、この事件の背景にあります。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての一次的な論点はブランドセーフティです。Meta広告に依存するEC・D2C・人材・アプリ系の事業者は、自社広告が同じ面に並ぶ可能性を前提に、プレースメント設定と配信先レポートの点検を広告代理店任せにせず経営レベルで確認すべき局面です。欧州向け配信を持つ企業は、当局対応の議題化に備えた記録の整備も要ります。
より重い示唆はプロダクト側です。生成AI機能やUGC投稿、画像アップロードを扱うSaaS・受託開発は、「投稿された後に消す」設計では守れないことがMetaの規模でも実証されました。アップロード時点の検出、年齢が疑われる素材の扱い、通報導線とNCMEC等への報告フロー、そして審査ログの保全を、機能開発の後追いではなく仕様として先に決める。監視団体が広告ライブラリのような公開データを継続的に監査している以上、外部からの指摘が広報リスクとして先に来る点も、役員は織り込んでおくべきです。