何が起きたか

TTPの報告によると、Facebook上で「Divine Productions」を名乗るページが、末日聖徒イエス・キリスト教会（Church of Jesus Christ of Latter-day Saints）を代表すると主張しながら、CSAMを含む広告を出稿していました。この広告はMetaの審査を通過して配信され、TTPが指摘するまでページは停止されませんでした。

TTPディレクターのKatie Paulはこの遅れを問題視し、Wiredに対し「Metaが金を稼いでいるあいだに、多くの害が生じ得る」と述べています。TTPの集計では、広告はEUで2万9000人超、英国で6800人にリーチし、約80%が米国で配信、一部はオーストラリアでも流れていました。

Metaの説明と、それが説明しきれていないもの

Metaの広報はWiredに「nudifyアプリもいかなる児童搾取も、実写であれAI生成であれ容認しない」と回答。検知をすり抜けた理由として、未成年が映るクリップが「短かった、またはぼかされていた」ことを挙げ、問題視された広告は平均インプレッションが200未満、総広告費も5000ドル未満だったと説明しています。Ars Technicaの取材には回答していません。

この「規模は小さい」という反論には構造的な弱点があります。TTPは、MetaがCSAM広告を過小カウントしている可能性を指摘しており、その場合、実際の収益は認めている額より大きいことになります。つまり金額の小ささは、審査体制の健全性の証明ではなく、「見つかった分だけの合計」に過ぎない可能性があります。加えて、Metaは全地域の広告リーチを開示していないため、外部からの検証は第三者調査に依存する構図が残ります。

規制側が動き出した

ミシガン州とフロリダ州の司法長官はCSAM広告について調査中とし、Mark Warner上院議員（民主・バージニア州）は、Wiredの8月の報道を受けて先月Metaに書簡を送り、「この違法かつ不適切な広告に終止符を打つ」よう要求しました。Metaは書簡に回答する意向とされています。16歳未満のSNS利用を禁止したオーストラリアのeSafety規制当局も懸念を示し、上級レベルでの情報提供をMetaに求めています。

Internet Watch FoundationのEmma Hardyは、AIアプリが「児童性的虐待の写実的な犯罪画像をあまりに簡単に作れるようにしている」と指摘し、日常的な子どもの写真が性的コンテンツに変換される新たなリスクを挙げたうえで、「こうしたアプリを広告・拡散できる場所をなくすべきだ」と述べています。論点は生成AIの是非ではなく、そのアプリが広告インフラを通じて需要獲得できてしまうという流通面に移っています。

💼 事業会社視点：これは自社にどう効くか

日本企業にとっての本質は「AIの倫理」ではなく、広告・審査・出稿という自社の流通面が法的リスクの入口になるという点です。

まず、Facebook/Instagram広告を主要流通に置くEC・D2C事業者は、ブランドセーフティの前提を見直すべきです。プラットフォームの自動審査がCSAM広告すら通したという事実は、自社広告の隣接面が制御不能であることを意味します。運用代理店に対し「配信面の除外設定と、問題発生時の停止権限が誰にあるか」を四半期で確認する運用に切り替えるのが現実的です。

より直接的に効くのは、UGCや画像投稿機能を持つSaaS・アプリ事業者、そしてそれを受託開発する側です。今回争点になったのは「短い」「ぼかされている」素材を検知できるかという実装レベルの話でした。自社サービスで画像生成・編集機能を提供しているなら、生成モデルの選定と同じ重みで、検知ロジックと通報後の停止SLA（何時間で止めるか）を経営会議の議題に載せるべきです。Metaが批判されたのは掲載自体より指摘後の対応の遅さでした。

また、自社に広告枠やマーケットプレイスを持つ企業は、審査を外部委託していても責任は移らない前提で、出稿主の審査基準を文書化しておくことを勧めます。オーストラリアの年齢規制のように、年齢確認とAI生成物の扱いは今後の海外展開時の参入条件になり得ます。