AI生成の動物画像が招く「本物への不信」——迷子猫詐欺と告発写真が同時に疑われる時代
WIREDによると、ロサンゼルスで飼い猫Brooklynを探していたMibbby Butlerのもとに、AIで生成された「発見写真」を使った金銭要求が届きました。同じ頃、175人の報道写真家の作品を公開する非営利団体We Animalsは、実写の告発映像に「AIではないと証明できるのか」と疑われています。生成物の氾濫は、詐欺と不信の両方を同時に生んでいます。
#ディープフェイク の記事一覧（25）
AIディープフェイク動画による世論操作とは？ウクライナ議員2名の偽動画が示す「偽物とバレても成功」の構造
NewsGuardによると、親クレムリン系のTelegramチャンネルがウクライナの国会議員2名――元ウクライナ保安庁副長官のアンドリー・レブス氏と、ゼレンスキー大統領の与党所属のイワン・ユナコフ氏――のAI生成ディープフェイク動画を拡散し、2週間で13万回再生を集めました。不自然なまばたきや平板な声など明らかな粗さが残るにもかかわらず、です。
教師のAIディープフェイク被害が示す「生成AIハラスメント」の実務対応——学校も企業も対処ルールがない
WIREDの取材で、米カリフォルニア州ロスバノスの代替教員ルイス・デサンティアゴ氏を含む複数の教員が、生徒によるAI生成の性的画像・動画をTikTokやSnapchatで拡散される被害を受けていたことが明らかになりました。米国には非同意の「生成された性的描写」を犯罪化するTake It Down Actがあるにもかかわらず、学校側の対応は3日間の停学や校内謹慎にとどまり、被害者は現場に戻れないまま放置されています。
故人のAI悪用（デジタル遺影問題）とは？ロビン・ウィリアムズ遺族のInstagram再開が示す「本物の一次情報」防衛線
ロビン・ウィリアムズ（2014年死去）の子ども3人、ザック・ゼルダ・コディが、休眠していた父のInstagramアカウントを再開しました。娘ゼルダは目的を「声と肖像に対する横行するAI悪用への反撃」と説明しており、規制やプラットフォーム対応ではなく“本物のアーカイブを自ら出し続ける”という手段が選ばれた点が新しいところです。
AIによるサイバー攻撃はどこまで来たか？フィッシング82%・音声クローン442%増が示す「攻撃の民主化」
生成AIはサイバー攻撃の前提を変えました。フィッシングメールの82%が何らかの形でAIを使い（Brightside調べ）、シミュレーション環境でのクリック率は従来の12%から52%へ。攻撃者は数週間かかった作業を一日で終え、Claude と ChatGPT の出力を往復させてメキシコ政府データベースを荒らした事例も報じられています。
EU AI法の透明性義務とは？8月2日施行で「AI表示」が必要になる範囲とリスクを解説
EUのAI法（Artificial Intelligence Act）の透明性ルールが8月2日に施行され、EU市民はAIと対話しているとき、またはAIが生成・改変したコンテンツを見ているときに、その事実を知らされる権利を得ました。違反企業には最大1500万ユーロ（1700万ドル）または全世界年間売上高の3％のいずれか高い方という制裁金が科されます。
Google EarthのAI画像編集はなぜ1日で撤回されたか——衛星画像ディープフェイクが崩す「地図への信頼」
Googleは木曜に公開したGoogle Earthのテキスト指示による衛星画像編集機能を、わずか1日で撤回しました。Digital Diggingのヘンク・ファン・エス氏が、メキシコ国境付近に難民を、ガザの病院脇に爆弾のクレーターを描き足した画像を意図的に生成できたことが引き金です。
Google EarthのAI画像生成が撤回——SynthIDでは「偽の衛星画像」を見抜けない理由
GoogleはGoogle Earthに搭載していたAI画像生成機能を撤回しました。ポリシー違反が疑われる生成画像のスクリーンショットが共有されたためで、Googleは「より強力なガードレールを実装する間、この機能をロールバックする」と説明しています。Ars Technicaの検証では、スマホのカメラで撮り直した画像に対してSynthIDは一切の検証結果を返せませんでした。
Google EarthのNano Banana撤回は何を示すか——AI生成衛星画像と「ウォーターマークで守れる」論の限界
Googleは2026年7月30日にGoogle Earthへ組み込んだ画像生成機能「Nano Banana」を、発表から1日足らずで一時停止しました。404 MediaのJoseph Cox氏がロサンゼルスの爆発跡やMountain View本社前のデモ隊を生成してみせたことが引き金で、Googleは再開前に「より強力なガードレール」を入れると表明しています。
xAIがミネソタ州を提訴——「ヌード化アプリ規制法」HF 1606がAI事業に突きつける設計責任
xAIは2026年5月成立のミネソタ州法HF 1606をめぐり、同州のキース・エリソン司法長官を憲法修正第1条違反で提訴しました。1件あたり最大50万ドルの制裁金と私人による民事訴権を備えた同法は8月1日施行で、xAIはGrok Imagineの画像編集機能を「様々な形で制限せざるを得ない」と主張しています。
Hugging Faceのディープフェイク問題とは？非同意ヌード生成ツールが野放しになる仕組みを解説
欧州の非営利団体AI Forensicsが、オープンソースAIの主要プラットフォームHugging Faceが本人の同意なきヌード画像（ディープフェイク）生成ツールをほぼ無防備に配布・実行できる状態だと指摘。上位9モデル中7つが「服を脱がせて」という指示に応じ、独自に設置した検証モデルには1週間で1,081件の入力が集まり、うち73%が性的な内容でした。
Hugging Faceの「ヌード化」問題とは？合意なきディープフェイクの実態をAI Forensicsの調査から解説
欧州の非営利団体AI Forensicsは7月28日公開の報告書で、オープンソースAIプラットフォームHugging Faceに、合意なき女性のヌード化ディープフェイクが横行していると指摘しました。上位の画像編集Space9件中7件が着衣女性を容易にトップレスに変換でき、囮Spaceに1週間で届いた1,000超のプロンプトのうち73%が性的、その83%が写真の人物の脱衣・性的化を狙い、95%が女性を対象としていました。
若者はなぜAIに冷めたのか？「that's AI（それって嘘でしょ）」が示す世代の距離感
米YPulse調査では13〜17歳の37%がAI音楽・動画に「うんざり」し、半数超がフェイク情報を懸念する。チャットボット普及から4年、利用率は高いのに熱狂を拒む若者が増えている――WIREDが親・教師・当人に取材した現象を、事業視点で読み解きます。
TikTokのAIなりすまし対策とは？クリエイター本人が自分の偽AI動画を検出・通報できる新機能を解説
TikTokは2026年7月17日、クリエイターが自分のAI生成なりすまし（AIライクネス）を検出し通報できる任意参加型ツールのテストを、米国の一部クリエイター向けに開始しました。利用にはJumio社によるセルフィースキャンとID確認を用いた本人認証が必要で、YouTubeも同様の機能を成人ユーザー全員に開放しています。
SynthIDとは？GoogleのAI電子透かしがマコネル議員のフェイク画像を暴いた仕組み
米上院議員ミッチ・マコネル氏が病床で苦しむAI生成画像がRedditやXで拡散したものの、GoogleのSynthID電子透かしが検出されたことでSnopesが偽物と断定しました。2025年に開始された同プログラムは、2026年5月にOpenAIも参加しています。
AI詐欺対策アプリ「Savi」とは？通話中にAIが同席し声のクローン詐欺を見抜く仕組みを解説
元Cisco幹部の兄弟が創業したSavi Securityが、AI生成の詐欺を検知する消費者向けアプリを月8ドルで提供開始。シードで700万ドルを調達し、通話中にAIエージェントを「盗聴役」として同席させる独自機能を備えます。
ハーランドのAIディープフェイクが2026W杯で拡散、アスリートが「二次創作キャラ」化する時代の到来
ノルウェー代表エルリング・ハーランドのAI合成動画が2026年ワールドカップ期間中にX上で3100万回超再生され、拡散源は中国のコメディアン、ジン・ロンのTikTokスキットだったと判明しました。アスリートが観客の手でロア(設定)を書き足される「オープンソースのミームキャラクター」へと変質しています。
英FCAが警鐘「金融AIは軍拡競争」──Anthropic・OpenAIも規制対象化の射程に
英金融行動監視機構(FCA)のシェルドン・ミルズ氏が、金融サービスにおけるAI活用を巡る規制提言をまとめた報告書を公表しました。AnthropicやOpenAIなど大手AI事業者を「重要な第三者」として監督下に置く権限強化と、AIチャットの応答が「助言」に該当するかという法的論点を提起しています。
国連AI科学パネル初報告とは？ガバナンスが技術進化に追いつかない現実を解説
国連の独立国際科学パネルが初の予備報告書を公表し、AIモデルがこなせるタスクの複雑性が数カ月ごとに倍増する一方、既存のガバナンス制度がその速度に対応できていないと警鐘を鳴らしました。7月6日にジュネーブで始まる「UN Global Dialogue on AI Governance」の科学的土台となる文書です。
故人の声をAIで復活させる時代——NetflixとElevenLabsのジーン・ワイルダー復活が示す音声IPの新市場
Netflixが音声AIのElevenLabsと組み、1971年の映画『夢のチョコレート工場』でウィリー・ウォンカを演じた故ジーン・ワイルダーの声をAIで再現し、新作リアリティ番組で使用します。遺族と妻の承認を得た上での起用で、故人の声そのものがライセンス可能な資産となる時代の到来を示しています。
米政治キャンペーンの87%がAI日常利用、EUは規制強化——2028年大統領選を占う分岐点
Anchor Changeの調査で米キャンペーン戦略家の87%がAIを日常業務に使う一方、EUは2025年10月の政治広告規則に続き、2026年8月のAI法透明性要件でディープフェイク表示を義務化します。米欧で選挙運営のAI活用は正反対の方向に加速しています。
AIディープフェイクポルノ被害、Meta監督委員会が指摘した「本人申告でしか救済されない」構造的欠陥
Metaの監督委員会(Oversight Board)は、性的なAIディープフェイクの標的にされた一般人を保護するため、被害者本人以外の通報経路の整備や、AIによる性的なりすましを成人性的搾取ポリシーに明記するよう勧告しました。現状、専用通報フォームが使えるのは米テキサス州・フロリダ州の住民のみです。
EU AI法のディープフェイク表示義務、広告画像は対象外に?Eurocommerceが除外要請の本質
Amazon、H&M、Inditex、Ikeaが加盟する欧州小売業団体Eurocommerceが、8月2日施行のEU AI法における「ディープフェイク」表示義務から、AI生成広告画像の除外をEU側に要請しました。Zalandoではマーケティング素材の90%が既にAI生成という現実を踏まえた動きです。
Conan O'BrienがAIセキュリティ教育ビデオでホストに
Conan O'BrienがAIセキュリティ企業Adaptive Securityと提携し、15本の教育ビデオシリーズをホストします。これにより、従業員がフィッシングやディープフェイクの脅威に対処する方法を学ぶことができます。
AI選挙偽情報は本当に脅威か？2024年78件の分析が示す「需要」の正体
WIRED AI Elections Projectが追跡した2024年の選挙関連AI利用78件のうち、半数の39件には欺瞞の意図がなく、欺瞞目的の39件も数百ドル程度で代替可能だったとAI Snake Oilの分析が指摘しました。米国ではAI生成物より「チープフェイク（安価な編集偽動画）」が7倍多く使われていました。