モードコラプスとは?AI検出ツールがChatGPTの文章を見破れる本当の理由
AI文章検出ツールPangramのCTOブラッドリー・エミ氏は、LLMの文章が検出できるのは能力の限界ではなく、事後学習(ポストトレーニング)と安全ガードレールが表現の幅を狭める「モードコラプス」のせいだとブログで論じました。事後学習前のベースモデルはPangramの検出に引っかからない、というのが主張の核心です。
AI文章検出ツールPangramのCTOブラッドリー・エミ氏は、LLMの文章が検出できるのは能力の限界ではなく、事後学習(ポストトレーニング)と安全ガードレールが表現の幅を狭める「モードコラプス」のせいだとブログで論じました。事後学習前のベースモデルはPangramの検出に引っかからない、というのが主張の核心です。
Googleは、Nano Banana・Omni・Lyriaで生成した画像・動画に付く「きらめきアイコン」型の可視ウォーターマークを、ユーザーがトグルで消せるようにします。一方で不可視のSynthIDとC2PAメタデータは削除できず、AIコンテンツの見分け方が「一目で分かる」から「確かめに行く」へ移ります。
AI音楽生成サービスのSunoが、ウォーターマーク(電子透かし)とフィンガープリンティング技術の導入、およびダウンロード方針の変更を発表しました。CEO兼共同創業者のMikey Shulman氏がブログで方針を示したもので、スパム的なAI楽曲の拡散を抑え、Suno生成コンテンツを識別しやすくすることが狙いです。
AI音楽生成のSunoが、生成トラックへのウォーターマーク付与とダウンロード数の制限を導入します。背景にあるのはUniversalとSonyによる米国での著作権侵害訴訟、ドイツ裁判所による音楽ライセンス法違反の認定、そして2025年後半のハッキングで露見したYouTubeやDeezerからの学習データ収集です。
AI音楽生成のSunoが、生成楽曲へのウォーターマーク(電子透かし)と音声フィンガープリント技術の導入、さらにダウンロード制限の実施を発表しました。今週ミュンヘンの裁判所がドイツの著作権管理団体Gemaの主張を認め、Sunoが権利のない楽曲で学習したと判断した直後の動きです。
EUは8月2日、AI法(EU AI Act)に基づき、本物に見えるように作られたAI生成の画像・音声・テキストにデジタル透かしでの表示を義務づけるルールの適用を開始しました。違反すれば総売上高の最大3%の制裁金が科され、既存のAIシステムには4か月の猶予が与えられます。