AIコンテンツモデレーションの限界とは?誤検知が生む「公平性の問題」とRedditの新ツールRules Hubを読み解く
Redditが今週、人間のモデレーターに自動処理の制御権を戻すツール「Rules Hub」の試験導入を拡大しました。背景には、機械学習分類器が皮肉やスラングを読み違え、最も攻撃にさらされやすいコミュニティを誤って罰しているという指摘があります。
Redditが今週、人間のモデレーターに自動処理の制御権を戻すツール「Rules Hub」の試験導入を拡大しました。背景には、機械学習分類器が皮肉やスラングを読み違え、最も攻撃にさらされやすいコミュニティを誤って罰しているという指摘があります。
Redditが水曜日、投稿参加のしやすさとモデレーション支援を狙った一連の変更を発表しました。LLMでルール違反を判定する「Rules Hub」を700超のコミュニティから全新規コミュニティへ拡大し、将来的にはアカウント年齢や「カルマ」に頼らない不正防止へ移行する構想を示しています。
Redditが、LLMでルール違反を判定する新モデレーションツール「Rules Hub」を新規作成コミュニティ全体へ拡大しました。700以上のコミュニティでの数カ月の試験を経たもので、同社は2026年内の一般提供を予定。同じ日に、新規サードパーティアプリの公開APIからDeveloper Platformへの移行義務化と、old Redditへの追加変更も明らかにしています。
Redditが、21年使われてきた旧デザイン「Old Reddit」への変更と、公開APIの段階的廃止を表明しました。AIによるスクレイピング対策が理由で、サードパーティアプリは管理の厳しい自社の「Developer Platform(Devit)」への移行を求められ、移行支援として100万ドルのプログラムが用意されています。
Redditのスティーブ・ハフマンCEOが四半期決算に合わせ、GoogleのAI Overviews(検索結果の自動要約)を「まだエコシステムにプラスの影響を与えていない」と名指しで批判しました。Redditは同社との6000万ドル規模のライセンス契約の打ち切りも検討していると報じられており、決算発表の場でRedditの株価は下落しました。
米連邦地裁のEngelmayer判事は、RedditがSerpApiとPerplexity AIを訴えた件で、DMCAに基づく請求の審理継続を認める一方、不当利得と不正競争の請求は著作権法に専占されるとして退けました。争点は「Google検索結果に出ている公開コンテンツを、プラットフォームが自社の権利として囲えるか」に絞り込まれています。
Redditが大規模言語モデル(LLM)を使ったスパム検知ツールを本格運用し、1日あたり2,300万回のスパム閲覧をブロック、25,000件の新規スパム投稿・コメントを検出していることを明らかにしました。1〜3月のユーザーのスパム露出は前四半期比で20%減少しました。
Redditが自社LLMを投入し、1日あたり2300万件のスパム閲覧を遮断、検知から対処までを5秒未満に短縮したと発表しました。2026年1〜3月のスパム露出は前3か月比で20%減少しています。