何が起きたか
AI研究者向けのニュースレターInterconnectsの著者が、自身のpost-training教科書『Reinforcement Learning from Human Feedback』（Manning／Amazonで入手可能）の執筆を終えたうえで、長文ノンフィクション執筆におけるLLMの停滞を論じました。数年にわたり執筆アシスタントとしてモデルを使ってきたが「少し良くなった」程度で、期待していたような欠陥の消滅は起きていない、という総括です。
興味深いのは、この記事が書かれたのがAnthropicがClaudeによるリーマン予想の進展についてブログを公開した当日だという点です。著者はその対比を、AIによる自律的な科学研究への期待に対する警告として使っています。確立された科学を整理して提示することは、未解決問題を解くことの前提条件のはずだ、という論理です。
なぜ重要か
著者が挙げる証拠は具体的です。文章力で有名なモデルはOpenAIのGPT-4.5やMoonshotのKimi K2といった相対的に古い世代であり、同じ期間にコーディングと数学は「まあまあ」から超人級へ跳ねました。この非対称性は偶然ではありません。数学やコードでは検証可能な報酬による学習（RLVR）が「本当に魔法のような」解決策として効いた一方、文章にはそれに相当する介入手段と良質な学習データが欠けている、というのが著者の見立てです。
症状も明快です。一文単位では正しく書けても、章全体では言い回しの混乱、構成の濁り、そして散発的な概念的誤りが出る。著者はこれを「還元不可能な複合誤差」と表現します。モデルが大きくなれば細かな誤りは減るだろうが、知識を活用する能力そのものが伸びるとは見ていない、とも述べています。
「知識の整理は圧縮である」
記事の核にあるのは「知識を整理することは圧縮であり、その圧縮が洞察を生むために必要だ」という主張です。そして現在のLLMは長文ノンフィクションにおいて、逆にエントロピーを増やしている。だからこそモデルは人間をガイドとして必要とし続ける、という結論に至ります。
実際の使い方は精緻です。LaTeXでの数式整形、大量のコピーエディット、TikZやPythonでの図版作成にはモデルを使い、Claude Codeで\editor{}区切りを辿って前後の文脈を表示させ、単純な誤字か込み入った修正かを分類させる。200〜300ページのほぼ最終稿のPDFをGPT 5.5 Proに渡したところ、原稿全体から驚くほど深い誤字を拾い上げたといいます。エディタとしてはClaude系のほうが「センス」があり、タスクの心的モデルの理解も提案の面白さも上だった、と評価が分かれている点も実務者には示唆的です。
一方で、AI由来の文はモデルの提案に感嘆し専門家として読者のためになると判断したもののみ、書籍全体の1%未満に留めています。ブログInterconnectsではAI出力を一切使わないという厳格なルールを維持し、論文でも関連研究や背景といった反復的な部分には使うが、要旨・序論・実験・結論に使うのは「作品の物語と魂」を損なうとして避けています。
逆に効いた領域
最も効果が大きかったのは執筆そのものではなく同期作業でした。読者フィードバック用のWeb版（Markdown）とManning編集チーム向けのフォーク（LaTeX）を並行維持する作業は、エージェントなしなら5倍の時間がかかったといいます（それでも数十時間を要した）。講演者の話す材料になるスライドの初稿のような、創造的な埋め草や背景素材にも有用だと述べています。
著者はまた、LLMが最高の個別教師になるという期待から書籍や教育コンテンツ制作が無意味に見える社会的圧力に触れつつ、最高品質の教育コンテンツは決定的に不足していると反論します。AIが得意なのは既存のコンテンツを学習者に合う形へ変形することであって、コンテンツをゼロから作ることではない——これが記事の結語です。2024年の時点では2026年にノンフィクションの本を出すのは間抜けに見えるかもしれないと恐れていたが、いまはむしろ書籍の寿命に自信を深めている、とも書いています。
💼 事業会社視点：これは自社にどう効くか
経営層への含意は「文章生成の自動化を人員計画の前提に置くのは早い」という一点に尽きます。SaaSのホワイトペーパーや導入事例、受託開発の設計書・要件定義書、ECの特集記事、社内の研修教材——いずれも一文単位ではAIが書けても、章全体では構成の濁りと散発的な概念誤りが残る領域です。著者の実測値は「本の執筆労力の10〜20%削減」であり、当面それが過半になるとは見ていません。テクニカルライターや教育コンテンツ部門の削減を今期の削減目標に織り込むなら、根拠は再点検すべきです。
投資先を変えるべきは二点あります。第一に、AIが得意なのは既存コンテンツの変形であって創出ではない以上、社内の一次情報——構造化された仕様、実データ、現場の判断根拠——を整備した企業だけがAIの変形能力を活かせます。ナレッジ整備は生成AI投資の前提条件です。第二に、非専門家はモデルの欠陥を検知できないという指摘は、レビュー体制の設計を左右します。AI下書きを外注ライターや若手だけで通す運用は、���りをそのまま外部に出す構造になります。
ツールの使い分けも実務的です。長文全体の誤字検出と、構成や表現に対する編集的な提案は別能力であり、著者はそれぞれGPT 5.5 ProとClaude系に強みを見ています。用途別に評価軸を分け、社内標準を一本化しない判断が有効です。