xAIがミネソタ州を提訴——「ヌード化アプリ規制法」HF 1606がAI事業に突きつける設計責任
xAIは2026年5月成立のミネソタ州法HF 1606をめぐり、同州のキース・エリソン司法長官を憲法修正第1条違反で提訴しました。1件あたり最大50万ドルの制裁金と私人による民事訴権を備えた同法は8月1日施行で、xAIはGrok Imagineの画像編集機能を「様々な形で制限せざるを得ない」と主張しています。
#ディープフェイク の記事一覧（16）
Hugging Faceのディープフェイク問題とは？非同意ヌード生成ツールが野放しになる仕組みを解説
欧州の非営利団体AI Forensicsが、オープンソースAIの主要プラットフォームHugging Faceが本人の同意なきヌード画像（ディープフェイク）生成ツールをほぼ無防備に配布・実行できる状態だと指摘。上位9モデル中7つが「服を脱がせて」という指示に応じ、独自に設置した検証モデルには1週間で1,081件の入力が集まり、うち73%が性的な内容でした。
Hugging Faceの「ヌード化」問題とは？合意なきディープフェイクの実態をAI Forensicsの調査から解説
欧州の非営利団体AI Forensicsは7月28日公開の報告書で、オープンソースAIプラットフォームHugging Faceに、合意なき女性のヌード化ディープフェイクが横行していると指摘しました。上位の画像編集Space9件中7件が着衣女性を容易にトップレスに変換でき、囮Spaceに1週間で届いた1,000超のプロンプトのうち73%が性的、その83%が写真の人物の脱衣・性的化を狙い、95%が女性を対象としていました。
若者はなぜAIに冷めたのか？「that's AI（それって嘘でしょ）」が示す世代の距離感
米YPulse調査では13〜17歳の37%がAI音楽・動画に「うんざり」し、半数超がフェイク情報を懸念する。チャットボット普及から4年、利用率は高いのに熱狂を拒む若者が増えている――WIREDが親・教師・当人に取材した現象を、事業視点で読み解きます。
TikTokのAIなりすまし対策とは？クリエイター本人が自分の偽AI動画を検出・通報できる新機能を解説
TikTokは2026年7月17日、クリエイターが自分のAI生成なりすまし（AIライクネス）を検出し通報できる任意参加型ツールのテストを、米国の一部クリエイター向けに開始しました。利用にはJumio社によるセルフィースキャンとID確認を用いた本人認証が必要で、YouTubeも同様の機能を成人ユーザー全員に開放しています。
SynthIDとは？GoogleのAI電子透かしがマコネル議員のフェイク画像を暴いた仕組み
米上院議員ミッチ・マコネル氏が病床で苦しむAI生成画像がRedditやXで拡散したものの、GoogleのSynthID電子透かしが検出されたことでSnopesが偽物と断定しました。2025年に開始された同プログラムは、2026年5月にOpenAIも参加しています。
AI詐欺対策アプリ「Savi」とは？通話中にAIが同席し声のクローン詐欺を見抜く仕組みを解説
元Cisco幹部の兄弟が創業したSavi Securityが、AI生成の詐欺を検知する消費者向けアプリを月8ドルで提供開始。シードで700万ドルを調達し、通話中にAIエージェントを「盗聴役」として同席させる独自機能を備えます。
ハーランドのAIディープフェイクが2026W杯で拡散、アスリートが「二次創作キャラ」化する時代の到来
ノルウェー代表エルリング・ハーランドのAI合成動画が2026年ワールドカップ期間中にX上で3100万回超再生され、拡散源は中国のコメディアン、ジン・ロンのTikTokスキットだったと判明しました。アスリートが観客の手でロア(設定)を書き足される「オープンソースのミームキャラクター」へと変質しています。
英FCAが警鐘「金融AIは軍拡競争」──Anthropic・OpenAIも規制対象化の射程に
英金融行動監視機構(FCA)のシェルドン・ミルズ氏が、金融サービスにおけるAI活用を巡る規制提言をまとめた報告書を公表しました。AnthropicやOpenAIなど大手AI事業者を「重要な第三者」として監督下に置く権限強化と、AIチャットの応答が「助言」に該当するかという法的論点を提起しています。
国連AI科学パネル初報告とは？ガバナンスが技術進化に追いつかない現実を解説
国連の独立国際科学パネルが初の予備報告書を公表し、AIモデルがこなせるタスクの複雑性が数カ月ごとに倍増する一方、既存のガバナンス制度がその速度に対応できていないと警鐘を鳴らしました。7月6日にジュネーブで始まる「UN Global Dialogue on AI Governance」の科学的土台となる文書です。
故人の声をAIで復活させる時代——NetflixとElevenLabsのジーン・ワイルダー復活が示す音声IPの新市場
Netflixが音声AIのElevenLabsと組み、1971年の映画『夢のチョコレート工場』でウィリー・ウォンカを演じた故ジーン・ワイルダーの声をAIで再現し、新作リアリティ番組で使用します。遺族と妻の承認を得た上での起用で、故人の声そのものがライセンス可能な資産となる時代の到来を示しています。
米政治キャンペーンの87%がAI日常利用、EUは規制強化——2028年大統領選を占う分岐点
Anchor Changeの調査で米キャンペーン戦略家の87%がAIを日常業務に使う一方、EUは2025年10月の政治広告規則に続き、2026年8月のAI法透明性要件でディープフェイク表示を義務化します。米欧で選挙運営のAI活用は正反対の方向に加速しています。
AIディープフェイクポルノ被害、Meta監督委員会が指摘した「本人申告でしか救済されない」構造的欠陥
Metaの監督委員会(Oversight Board)は、性的なAIディープフェイクの標的にされた一般人を保護するため、被害者本人以外の通報経路の整備や、AIによる性的なりすましを成人性的搾取ポリシーに明記するよう勧告しました。現状、専用通報フォームが使えるのは米テキサス州・フロリダ州の住民のみです。
EU AI法のディープフェイク表示義務、広告画像は対象外に?Eurocommerceが除外要請の本質
Amazon、H&M、Inditex、Ikeaが加盟する欧州小売業団体Eurocommerceが、8月2日施行のEU AI法における「ディープフェイク」表示義務から、AI生成広告画像の除外をEU側に要請しました。Zalandoではマーケティング素材の90%が既にAI生成という現実を踏まえた動きです。
Conan O'BrienがAIセキュリティ教育ビデオでホストに
Conan O'BrienがAIセキュリティ企業Adaptive Securityと提携し、15本の教育ビデオシリーズをホストします。これにより、従業員がフィッシングやディープフェイクの脅威に対処する方法を学ぶことができます。
AI選挙偽情報は本当に脅威か？2024年78件の分析が示す「需要」の正体
WIRED AI Elections Projectが追跡した2024年の選挙関連AI利用78件のうち、半数の39件には欺瞞の意図がなく、欺瞞目的の39件も数百ドル程度で代替可能だったとAI Snake Oilの分析が指摘しました。米国ではAI生成物より「チープフェイク（安価な編集偽動画）」が7倍多く使われていました。