何が起きたか
AI Snake Oilの著者らが、WIRED AI Elections Projectに記録された2024年の選挙関連AI利用78件を分析しました。その結果、39件は欺瞞の意図がない用途で、ベネズエラのジャーナリストが政府の報復を避けるためのアバター利用、米アリゾナ州のArizona Agendaによる動画操作の啓発、カリフォルニアの喉頭炎候補者による音声クローン活用などが含まれます。選挙キャンペーン用途22件のうち19件は誤誘導ではなく素材改善が目的でした。
「AI製」より「安価な編集」が主流
News Literacy Projectの集計では、2024年の米大統領選でチープフェイク（編集による偽動画）はAI生成物の7倍多く使われ、バングラデシュではディープフェイクの20倍以上の頻度でした。インドの野党候補ラフル・ガンディー氏の発言から「not」をジャンプカットで削除し、ナレンドラ・モディ首相の勝利を予言したかのように見せかけた動画はその典型例です。カマラ・ハリス氏が当て逃げに関与したと装う動画も、AIではなく舞台俳優を雇って制作されていました。
供給側ではなく「需要側」が問題
著者らは2024年1月の世界経済フォーラムによる「偽情報は世界最大の短期リスク」との評価に対し、別の見方を提示します。欺瞞の39件はいずれもPhotoshop職人や声優を数百ドルで雇えば再現可能で、AIは「制作コストの限界費用」をわずかに下げただけだという主張です。バイデン大統領のAI音声クローンを使ったロボコール事件も、声帯模写者で同等のものが作れたうえ、実行者にはFCCから600万ドルの罰金が科されています。著者らは「偽情報は供給ではなく需要、つまり既に信じたい層に届ける『流通』こそがボトルネック」と結論づけています。
💼 事業会社視点：これは自社にどう効くか
日本企業、特にSaaS・ECの広報や、生成AIを扱う受託開発・コンサル各社にとって示唆は明確です。「AIが偽情報を爆発的に増やす」という前提で組まれたガバナンス投資やAI規制対応は、リスクの重点配分を誤る可能性があります。役員が問うべきは「うちのAI製品が悪用されないか」よりも、「自社ブランド・経営者個人が、安価な動画編集と既存の不信感を組み合わせて攻撃された時に何分で対応できるか」です。
具体的には、(1)IR・広報部門に対し、ディープフェイクではなく従来型の切り貼り編集動画（チープフェイク）への即応プレイブックを整備させる、(2)SaaS事業者は顧客企業からの「AI出力の真正性証明」要求に応えるC2PA等の電子署名対応をロードマップに入れる、(3)受託開発各社はクライアントの「AIリテラシー研修」需要に対し、過剰な脅威論ではなく『需要側の脆弱性（社員の確証バイアス）』を切り口にした提案へ転換することが、差別化につながります。FCCがロボコール実行者に600万ドルを科した事実が示すように、執行は技術ではなく行為に対して行われます。