何が起きたか
Metaは、公開設定のInstagramアカウントの写真をAIで改変できる機能を、公開からわずか数日で削除しました。この機能は、同社の専門AI部門「Meta Superintelligence Labs」が開発した画像生成ツール「Muse Image」とともに今週前半に投入されたものです。ユーザーは、参照したい公開アカウントを@メンションするだけで、その写真をもとに画像を生成できました。
Metaは7月10日（金）付のブログ投稿で撤回を発表し、「この機能は狙いを外した（missed the mark）」として提供を停止したと説明しています。決定を最初に伝えたのはPuck NewsのDylan Byers氏で、ユーザーとCAAを含む芸能事務所からの監視のなかで下された判断だと指摘しています。
なぜ問題だったか
最大の欠陥は「本人が知らないうちに使われる」点にありました。この機能は、自分の写真がこの方法で使われても本人に通知しない設計で、公開直後から強い反発を招きました。TechCrunchが独自に「無効化の手順」を解説する記事を出したことも、懸念の深さを物語ります。
背景には、SNSとAIの統合以降くり返されてきた悪用の歴史があります。特に女性有名人の裸の画像を生成する用途に転用され、プラットフォーム側のガードレールが機能しきれてこなかった経緯があります。今回の機能は、公開写真という「取得のハードルが低い素材」を、通知なしで改変可能にするものであり、悪用の導線を自ら広げかねないものでした。
「同意」の設計をどこに置くか
Metaは声明で「公開コンテンツが参照されるかどうかを本人がコントロールできるようにする意図だった」と釈明しています。しかし、オプトアウト（拒否設定）を前提にした設計では、大多数のユーザーは自分の写真が使われていることに気づけません。同意をオプトイン（明示的な許諾）に置くか、少なくとも通知を挟むか——この設計判断こそが、機能の存廃を分けた核心でした。
💼 事業会社視点：これは自社にどう効くか
AI生成機能を製品に組み込むすべての事業会社にとって、これは「後付けのガードレールでは間に合わない」という実例です。特にECやSNS連携アプリ、UGC（ユーザー生成コンテンツ）を扱うSaaSでは、他者の画像・氏名・声を素材として使える機能を出す前に、同意設計をオプトイン基準で組むべきです。Metaほどの資本と法務体制でも、通知なし設計は数日で撤回に追い込まれました。中小事業者が同じ轍を踏めば、撤回のニュース性すらなく信頼だけを失います。
受託開発企業は、クライアントから「@メンションで他人の投稿を参照する」類の要件が来た際、実装可否だけでなく「本人通知・オプトアウト導線・悪用時の削除フロー」を提案段階で必須条件として明示すべきです。日本でも肖像権・パブリシティ権の論点は同型で、芸能事務所（今回のCAAに相当）からの監視は日本のタレント事務所でも十分起こり得ます。役員は「出してから直す」ではなく「同意を先に設計する」を開発プロセスの前提に据える必要があります。