何が起きたか
Metaは、新しい画像生成モデル「Muse Image」に搭載していた機能を、批判の高まりを受けて取り下げました。問題となったのは、他人のInstagram公開アカウントを@メンションするだけで、その人物のAI画像を生成できるという仕様です。必要なのはユーザー名だけで、被写体となる本人の同意は一切求められませんでした。
さらに火に油を注いだのが、この機能がデフォルトで有効だった点です。自分の写真を素材として使われたくないユーザーは、Instagramの設定画面から自ら手動でオプトアウトする必要がありました。Metaは「有用なクリエイティブツールを提供し、自分の公開コンテンツがこうした形で参照されるかどうかを本人がコントロールできるようにしたかった」と説明していますが、結果として発表から数日で機能を停止しています。
なぜ「デフォルトON」が決定打になったのか
事実として押さえるべきは、炎上の核心が「AIが画像を作れること」ではなく、「同意の設計」にあったという点です。同じ機能でも、オプトイン（使いたい人だけが許可する）であれば批判の質はまったく違ったはずです。デフォルトONかつ手動オプトアウトという設計は、「公開アカウント＝素材として自由に使ってよい」という前提を、プラットフォームが一方的に置いたことを意味します。この前提の置き方こそが、ユーザーの反発を招きました。
欧州では、そもそもこの機能はより厳格なデータ保護規制の下で存続しなかった可能性が高いと見られています。つまりMetaは、規制の壁にぶつかる前に世論の壁にぶつかった格好です。
Soraの「カメオ」との距離
この発想の下敷きになったと見られるのが、OpenAIがすでに終了したSoraアプリの「カメオ」機能です。カメオは自分自身の分身を作り、許可した相手だけが自分の姿を動画に登場させられる仕組みでした。決定的な違いは、カメオが本人の許可を前提としていたのに対し、Muse Imageの機能は本人不在で成立していた点にあります。
もっとも、Soraのカメオもローンチ時こそバイラルヒットしたものの、関心は急速に薄れました。つまり「他人の顔を使って遊ぶ」体験は、同意設計をクリアしても持続的な事業価値になるとは限らない、という示唆も同時に残っています。Metaは、短命だった機能から、最も炎上しやすい部分だけを取り込んでしまったとも言えます。
💼 事業会社視点：これは自社にどう効くか
日本企業にとってこれは「AI生成機能を出す側」の教訓です。まずEC・D2C・SNSマーケティング領域では、UGCや顧客の投稿画像をAIの学習・参照素材に回す設計が増えていますが、Metaの事例が示したのは、規約上の適法性ではなく「デフォルトONで同意を取ったことにする」という設計そのものが炎上の引き金になるという点です。利用規約を根拠にオプトアウト方式を選んだ瞬間、法務は通っても世論は通りません。
SaaS事業者は、アバター生成・似顔絵・パーソナライズ画像といった機能を検討する際、肖像の主体が「ユーザー本人」か「第三者」かで設計を分けるべきです。第三者が被写体になり得る機能は、原則オプトインに倒す。これは倒しすぎではなく、EUの厳格なデータ保護規制を前提に海外展開する企業にとっては、後から作り直すコストを避ける投資です。
受託開発・SIerは、クライアントから「Instagram連携でAI画像生成を」といった要件が来たときに、同意フローの設計を要件定義段階で論点化する立場にあります。Metaですら数日で撤回した領域であり、「発注元が言ったから作った」は通用しません。経営者が今すぐ確認すべきは、自社のAI機能に一つでも「デフォルトON・手動オプトアウト」の同意設計が残っていないか、その棚卸しです。