何が起きたか
AIテキスト検出サービスPangramのCTO、ブラッドリー・エミ氏がブログ記事で、「LLMは理論上、人間と同じくらい多様に書けるはずなのに、実際にはそうなっていない」と指摘しました。その原因として挙げられたのが、事後学習と安全ガードレールです。
ChatGPT、Claude、Geminiといったシステムは、危険な出力を避けたり、特定の政治的発言を抑制したりするための振る舞いのルールを学習します。エミ氏は、このルールがモデルの表現域を著しく狭めており、その現象を「モードコラプス（mode collapse）」と呼んでいます。
モードコラプスの状態では、言語モデルは人間の言語が持つ幅の全体をカバーせず、ひとつの「好みの言い回し」に固着します。対する「モードカバレッジ」では、確率がさまざまな言い回しに満遍なく分散します。Pangramが記事に添えた図では、モードコラプスがオレンジの曲線、人間の言語の全域が青い曲線で描かれています。
なぜ重要か
この主張が効いてくるのは、「AI検出は当面続くのか、いずれ効かなくなるのか」という問いに、技術的な答え筋を与えるからです。
エミ氏によれば、事後学習を経ていない生のベースモデルはもっと多様に書くため、Pangramの検出では引っかかりません。同じことは、ヘミングウェイの文章や特定のサブレディットのテキストだけで学習させた狭い専用ファインチューンにも、支離滅裂な文章のような壊れた出力にも当てはまります。
つまり検出されているのは「AIが書いたこと」そのものではなく、「事後学習で整えられたAIらしい書き方」です。検出精度の土台は、商用モデルが安全性と有用性のために引き受けている表現の狭さに乗っている、という構図になります。
押さえておくべき論点
重要な但し書きがひとつあります。この議論はウォーターマークのないAIテキストにのみ当てはまります。エミ氏は、ウォーターマークはベースモデルの多様性があってもおそらく常に機能し続けるとしています。
ここから線を引くと、AIテキストの識別には性質の異なる二つの手段があることが見えてきます。文体の統計的な狭さを手がかりにする「痕跡ベース」の検出と、送り手側が信号を埋め込む「ウォーターマーク」です。前者は事後学習の副作用に依存する以上、モデル側の設計変更で揺らぎうる一方、後者は提供者の協力があれば安定します。検出を業務プロセスに組み込む側は、この二層の性質差を理解しておく必要があります。
💼 事業会社視点：これは自社にどう効くか
実務的な含意は「AI検出を制度に組み込むなら、その土台の脆さを前提に設計せよ」という点です。
採用選考でエントリーシートのAI判定を使う企業、受託開発でライターの納品物をチェックするコンテンツ制作会社、UGCを扱うECモール——いずれも検出結果を単独の証拠として扱うのは危険です。エミ氏の論に従えば、検出が効くのは事後学習で整えられた商用モデルの出力であり、狭い専用ファインチューンやベースモデルの出力は素通りします。「検出をすり抜けた＝人間が書いた」ではありません。役員が承認すべきは、検出スコアを一次シグナルに留め、面談や制作過程の記録といった別の確認と組み合わせる運用ルールです。
逆側の示唆もあります。自社のSaaSやオウンドメディアが生成AIで文章を量産している場合、その文章は構造的に「AIらしい」痕跡を残し続けます。ブランドの文体を差別化したいなら、プロンプトの工夫より社内の編集工程で書き手の癖を入れ直すほうが確実です。
そしてウォーターマークが安定して機能するという指摘は、将来の制度対応の軸がどこに置かれるかを示唆します。AI生成物の表示義務が議論される局面では、検出ベンダーへの依存より、提供者側の信号に対応できる体制を先に整えておくほうが投資として堅いでしょう。