BeatportがAI楽曲を出品禁止に──「人間が作った音楽」を有料化する審査インフラの始まり
DJ向け音楽マーケットプレイスのBeatportが、全面的またはほぼAI生成の楽曲の販売を禁止しました。人間主導の制作にAIを補助的に使った楽曲は許可されますが「AI使用」のフラグが付き、判定はストリーミング不正検知で提携済みのBeatdappの検出ツールがアップロード時に行います。
#コンテンツモデレーション の記事一覧（21）
Rogue 1.0とは？成人向けAI動画生成の「HBO戦略」が示すコンテンツ産業の次
ハリウッドの映画プロデューサー2人（累計興行収入20億ドル超）が匿名で立ち上げたRogue Studioが、無修正の成人向けAI動画生成ツール「Rogue 1.0」を公開しました。月額29〜299ドルのサブスクで、NanoBanana・Seedance・Kling 2.0といった外部モデルと自社の成人向けモデルを組み合わせて使える設計です。
SpotifyのAI Personaバッジとは？AI生成アーティストを推薦対象から外す新ルールを解説
Spotifyは火曜、AI生成のアーティスト像に「AI Persona」バッジを付け、既定でエディトリアル・アルゴリズム双方の推薦対象から除外すると発表しました。2026年8月11日からSpotify for Artistsでの自己申告が始まり、翌月・9月中旬からプロフィールにバッジが表示されます。
AIコンテンツモデレーションの限界とは？誤検知が生む「公平性の問題」とRedditの新ツールRules Hubを読み解く
Redditが今週、人間のモデレーターに自動処理の制御権を戻すツール「Rules Hub」の試験導入を拡大しました。背景には、機械学習分類器が皮肉やスラングを読み違え、最も攻撃にさらされやすいコミュニティを誤って罰しているという指摘があります。
Rules Hubとは？RedditがAutomodをLLMで置き換える狙いと、API・old Reddit規制の全体像
Redditが、LLMでルール違反を判定する新モデレーションツール「Rules Hub」を新規作成コミュニティ全体へ拡大しました。700以上のコミュニティでの数カ月の試験を経たもので、同社は2026年内の一般提供を予定。同じ日に、新規サードパーティアプリの公開APIからDeveloper Platformへの移行義務化と、old Redditへの追加変更も明らかにしています。
Meta広告のAI生成CSAM問題とは？50件超が審査を通過した事実から読む、広告プラットフォーム依存のリスク
Tech Transparency Project（TTP）の調査で、MetaがAI生成の児童性的虐待コンテンツ（CSAM）を含む有料広告50件超を審査承認し、Facebook・Instagram・Threads・Messengerで配信していたことがWiredにより報じられました。広告は2025年11月から2026年8月にかけて掲載され、数千アカウントにリーチし、一部は「ヌーディファイ（脱衣）アプリ」へ誘導していたとされます。
Old Redditは終わるのか？ RedditのAPI全廃とAIスクレイピング対策が示す「開かれたWeb」の終着点
Redditが、21年使われてきた旧デザイン「Old Reddit」への変更と、公開APIの段階的廃止を表明しました。AIによるスクレイピング対策が理由で、サードパーティアプリは管理の厳しい自社の「Developer Platform（Devit）」への移行を求められ、移行支援として100万ドルのプログラムが用意されています。
YouTubeのAI動画「収益化NG」3類型とは？YPP新ルールが示す線引きを解説
YouTubeは生成AI動画を禁止せず、収益化の条件を絞り込みました。Trust & Safety担当VPのMatt Halprin氏がCreator Insiderのインタビューで語ったのは、YouTube Partner Program（YPP）の文言を「repetitious content（反復的なコンテンツ）」から「inauthentic content（本物でないコンテンツ）」へ変更し、量産系・不快系・「AIペルソナ」の3類型を収益化対象から外すという線引きです。
Meta広告審査の穴とは？AI生成CSAM広告50件超が9カ月配信された問題を整理
監視団体Tech Transparency Project（TTP）は、Metaが昨年11月から今年8月初めにかけて、AI生成の児童性的虐待コンテンツ（CSAM）や未成年を性的に描いた広告50件超を審査・承認し、Facebook、Instagram、Messenger、Threadsで配信していたとWIREDに明らかにしました。少なくとも1件は欧州8カ国で2,563アカウントに到達しています。
AIスロップとは？SnapのSpotlight除外・LinkedInの通報ボタンから読む「AI生成コンテンツ規制」の転換点
Snapは2026年8月から、完全なAI生成動画をSpotlightのレコメンド対象から除外しました。LinkedInは「AIスロップ（AI slop）」専用の通報ボタンを新設。Kapwingの調査ではYouTube Shortsの21%がすでにAI生成とされ、プラットフォーム側が「量」ではなく「出所」で線を引き始めています。
XのCreative Revenue Sharingとは？AI生成「逆転劇スレッド」で月数万円が動く仕組みと企業リスク
WIRED/Backchannelのスティーブン・レビー氏が、Xで拡散する一人称の「無実の私が逆転勝訴する」物語スレッドの正体を取材しました。書き手はナイジェリア在住21歳の株式トレーダーを名乗るBIGBEN氏で、GrokやChatGPTに指示して物語を量産し、XのCreative Revenue Sharingから2週間ごとに500〜700ドルを受け取っています。
Hugging Faceのディープフェイク問題とは？非同意ヌード生成ツールが野放しになる仕組みを解説
欧州の非営利団体AI Forensicsが、オープンソースAIの主要プラットフォームHugging Faceが本人の同意なきヌード画像（ディープフェイク）生成ツールをほぼ無防備に配布・実行できる状態だと指摘。上位9モデル中7つが「服を脱がせて」という指示に応じ、独自に設置した検証モデルには1週間で1,081件の入力が集まり、うち73%が性的な内容でした。
DiscordのAI誤BANはなぜ起きたか？8,000人巻き込んだ「格子模様の誤検知」を解説
Discordは、AIによるモデレーションのバグで過去2ヶ月に8,000人超のアカウントを誤って永久BANしたと認めました。スプレッドシートやチェス盤、ゲームテクスチャなど無害な画像がCSAM等の有害コンテンツと誤判定され、本来必要な人間レビューをスキップしてBANが実行されていたことが原因です。
RedditがLLMでスパム検知、AI生成コンテンツをAIで潰す構図の意味
Redditが大規模言語モデル（LLM）を使ったスパム検知ツールを本格運用し、1日あたり2,300万回のスパム閲覧をブロック、25,000件の新規スパム投稿・コメントを検出していることを明らかにしました。1〜3月のユーザーのスパム露出は前四半期比で20%減少しました。
RedditのAIスパム対策とは？LLMで1日2300万件のスパムを遮断する仕組みを解説
Redditが自社LLMを投入し、1日あたり2300万件のスパム閲覧を遮断、検知から対処までを5秒未満に短縮したと発表しました。2026年1〜3月のスパム露出は前3か月比で20%減少しています。
AI生成音楽は「ラベル付け＋無報酬」へ：Tidalの新方針が示すストリーミング業界の分岐点
音楽配信のTidalが、100%AI生成と判定した楽曲にアイコンを付与し、ロイヤリティの支払い対象から外す方針を発表しました。7月15日から表示を開始し、不正利用と紐づくAI楽曲は7月中旬から削除・ブロックの対象になります。
GrokのトラフィックはなぜNSFWに偏ったのか――xAIが抱える「政府契約と性的利用」の構造矛盾
米メディアThe Informationの報道によれば、xAIのチャットボットGrokのトラフィックの「半分以上」がNSFW（性的・成人向け）用途で占められているとされ、元従業員2名が証言しました。SpaceXはIPO関連書類でこの依存に直接言及せず、5億3000万ドルを潜在的な訴訟費用として確保しています。
Grokのトラフィック過半がアダルト用途？xAIがNSFW画像・動画生成を拡張する戦略の意味
xAIの元従業員2名が、Grokの全トラフィックの過半がポルノ画像・動画やアダルトなロールプレイ目的だとThe Informationに証言しました。SpaceXのIPO書類によれば、Grokは2026年Q1時点で月100億枚の画像と20億本の動画を生成しています。
Meta「Muse Spark」とは何か？コンテンツモデレーションをLLMで9割自動化する戦略の中身
Metaが2025年に人手によるモデレーション依頼の約半数をLLMに置き換え、年末までに一部カテゴリで9割超の自動化を目指していることがFinancial Timesにより報じられました。社内では新基盤モデル「Muse Spark」への切り替えも始まっています。
AIディープフェイクポルノ被害、Meta監督委員会が指摘した「本人申告でしか救済されない」構造的欠陥
Metaの監督委員会(Oversight Board)は、性的なAIディープフェイクの標的にされた一般人を保護するため、被害者本人以外の通報経路の整備や、AIによる性的なりすましを成人性的搾取ポリシーに明記するよう勧告しました。現状、専用通報フォームが使えるのは米テキサス州・フロリダ州の住民のみです。
英国の16歳未満SNS禁止とは？2027年春施行の規制内容と日本企業への波及を解説
英国政府は2027年春から、16歳未満のFacebook・Instagram・X・TikTok・Snapchat・YouTube利用を一律禁止すると発表しました。恋愛模倣型チャットボットの利用年齢は18歳に引き上げられ、未成年向けライブ配信機能も停止される一方、WhatsAppとSignalは対象外です。