SEALが目指す「自己編集するLLM」
MITが公開した論文「Self-Adapting Language Models」は、LLMが入力に応じて自分の重みを書き換える仕組みを提示しました。中核となるのは「self-edit（自己編集）」と呼ばれる動作で、モデルが新しい情報を受け取ると、それを学習に適した形へ自ら変換し、教師ありファインチューニング（SFT）でパラメータθをθ′に更新します。
仕組みは二重ループで構成されます。外側のループは強化学習で「どのような自己編集が有効か」を最適化し、内側のループは生成された自己編集を使って勾配降下でモデルを更新します。これはメタ学習の一形態であり、「学び方を学ぶ」発想を重みレベルで実装した点が特徴です。
なぜGRPOやPPOではなかったのか
研究チームはGRPOやPPOといったオンライン方策学習を試したものの、訓練が不安定になることを確認し、最終的にDeepMindの論文で提案された「ReST^EM」を採用しました。これは報酬が正のサンプルだけを残してSFTで模倣させるフィルタリング型の手法で、EMアルゴリズムのE-step（候補生成）とM-step（強化）に対応します。安定した自己改善ループを回すためには、方策勾配よりも「良い自己編集だけを蒸留する」設計が有効だった、という実装上の知見が読み取れます。
二つの実証領域での成果
SEALは知識統合と少数事例学習の2領域で検証されました。少数事例学習ではLlama-3.2-1B-Instructを用い、72.5%の適応成功率を達成。強化学習なしの自己編集（20%）、適応なし（0%）を大きく引き離しています。ただし理想的なベースラインである「Oracle TTT」には届いておらず、伸びしろは残ります。
知識統合ではQwen2.5-7BでSQuADの記事情報をモデルへ取り込む実験を行い、わずか2イテレーションでGPT-4.1が生成したデータを用いた構成を上回るケースも観測されました。一方で、破滅的忘却・計算コスト・評価が文脈依存になりやすい点は論文自身が限界として認めています。
「自己進化AI」の文脈
論文公開はHacker Newsを含む議論を呼び、Sakana AIとブリティッシュコロンビア大の「Darwin-Gödel Machine（DGM）」、CMUの「Self-Rewarding Training（SRT）」、上海交通大の「MM-UPT」、香港中文大とvivoの「UI-Genie」といった自己進化系研究と並べて語られています。OpenAIのSam Altmanがブログ「The Gentle Singularity」で「より多くのロボットを作るためにサプライチェーン全体を動かし、それがチップ製造拠点やデータセンターを増やす」と書いた直後でもあり、再帰的自己改善が現実の論点として浮上した状況です。
💼 事業会社視点：これは自社にどう効くか
SEALが事業会社に突きつけるのは「RAG中心のAI戦略の賞味期限」です。日本のSaaS・受託開発企業の多くは、社内文書を埋め込みベクトル化して検索させるRAG構成で当面を凌ごうとしていますが、SEALが示すのは「重みに直接知識を焼き込む」方向性で、検索コストや文脈長制約を抜本的に下げる可能性があります。EC事業者にとっては、商品マスタやレビューを夜間に「自己編集」させて翌朝には商品理解が更新されたモデルを得る、といった運用が射程に入ります。
経営層が今動くべきは三点です。第一に、向こう1〜2年のAI基盤投資をRAGに固定せず、ファインチューニング基盤と評価環境を社内に持つこと。72.5%対0%という差は、適応技術の有無が競合差になる時代を示唆します。第二に、自社データの「教師化可能性」を棚卸しすること。SEALは強化学習で自己編集を磨くため、下流タスクの評価指標を社内で定義できる企業ほど恩恵が大きくなります。第三に、破滅的忘却への運用設計を法務・情シスと先回りで議論すること。重みを更新するAIは、ガバナンスの単位がプロンプトから「モデルのバージョン」へ移ることを意味します。