何が起きたか

TikTokは、クリエイター自身が「自分のAIなりすまし(AIライクネス)」を探し出し、TikTokに通報できるオプトイン(任意参加)ツールのテストを始めました。まず米国の一部クリエイターが対象です。この動きはソーシャルメディアコンサルタントのMatt Navarra氏が発見し、The VergeのJay Peters氏らが報じました。

仕組みはこうです。ツールを使いたいクリエイターは、まずJumioという企業を通じて本人確認を行います。確認にはリアルタイムのセルフィースキャンとIDチェックが必要です。TikTokは「ID書類は保持せず、顔情報はライクネス(本人の見た目)の照合と、無許可利用の可能性の特定にのみ使う」と説明しています。認証後、システムがクリエイターの見た目を使っている可能性のあるAI生成コンテンツをスキャンし、クリエイターは検出結果を確認して、無許可の投稿やアカウントを通報できます。

なぜ重要か

これまでAIによるなりすまし(ディープフェイク)対策は、プラットフォームが受動的に通報を待つか、事後に削除するかが中心でした。今回の特徴は、本人確認された顔情報を「照合の基準」として能動的にスキャンする点にあります。誰かが偽物を見つけて通報するのではなく、本人が自分の顔を登録し、システム側が横断的に探しに行く構図です。

同種の取り組みはYouTubeも進めており、直近で成人ユーザー全員に提供を開始しました。大手プラットフォームが相次いで「本人による顔照合+通報」の枠組みへ動いていることは、AI生成コンテンツの流通量が、人力の監視や個別通報では追えない規模に達したことの裏返しでもあります。

論点:本人の顔をプラットフォームに預けるということ

この仕組みの核心は、なりすまし検出のために本人が自分の生体情報(顔)を差し出すという交換条件にあります。TikTokはID書類を保持せず用途を照合に限ると述べていますが、顔データの取り扱いは、クリエイターにとってもプラットフォームにとっても信頼が問われる領域です。守るために預ける、というトレードオフをどう設計・開示するかが、今後の普及の鍵になります。

💼 事業会社視点:これは自社にどう効くか

日本企業にとって、これは「タレント・インフルエンサーの顔」が資産であると同時にリスク資産になったことを示します。タレント起用でマーケティングを行うEC・D2C・広告会社は、契約時に「AIなりすまし発生時の検出・通報フロー」「本人の顔データをどのプラットフォームに登録するか」を条件に組み込む段階に入りました。放置すれば、自社ブランドを騙る偽AI広告で顧客が詐欺被害に遭い、ブランド毀損に直結します。

SaaS・受託開発企業には商機です。TikTokやYouTubeが提供するのは自社内の照合のみで、複数プラットフォームを横断監視する仕組みや、企業アカウント・商品パッケージまで含めた「なりすまし検出SaaS」は空白地帯です。JumioのようなKYC(本人確認)基盤との連携は、日本のeKYC事業者にとって隣接領域になります。

経営者が今動くべきは、(1)自社の顔となる人物・キャラクターのAIなりすましを誰がどう監視するかの責任者を決めること、(2)顔データを外部に預ける際のガバナンス基準を先に用意することの2点です。

関連リンク