何が起きたか
公開されたのは、CLIツール「LLM」向けのプラグイン llm-chat-completions-server（バージョン0.1a0）です。手順は3行で、uv tool install llm --pre でプレリリース版のLLMを入れ、llm install llm-chat-completions-server でプラグインを追加し、llm chat-completions-server -p 9001 を実行します。これでlocalhostにサーバーが立ち上がり、各種プラグイン経由で導入済みのモデルコレクション全体が、ChatGPTのChat Completions互換エンドポイントとして外に出ます。
利用例として示されているのは、http://localhost:8002/v1/chat/completions に Content-Type: application/json でPOSTするcurlリクエストです。ボディにはモデル名 qwen3.5-4b と、「Capital of France?」「Paris.」「Germany?」という user / assistant / user の3メッセージ配列が入ります。なお起動コマンドの例は9001番、リクエスト例は8002番と番号が食い違っており、アルファ版らしい粗さは残っています。
なぜ重要か：これは「サーバー」ではなく「重複排除の実験台」
見落としてはいけないのは、このプラグインが単体のプロダクトとして作られたわけではない点です。LLM 0.32rc1で入った新しいコンテンツアドレッサブルなログの主要な目的のひとつが、まさにOpenAI Chat Completions形式のリクエストに対応することでした。プラグインは、その挙動を試すために作られています。
Chat Completionsというパターンでは、会話の状態をサーバー側ではなくクライアント側が保持します。つまり、やり取りが進むたびに過去の全メッセージを丸ごと再送する構造で、リクエストは回を追うごとに長くなり続けます。先の例でいえば、3ターン目の質問「Germany?」を投げるためだけに、それ以前のやり取りをすべて同梱する必要があるわけです。新しいスキーマ設計は、この繰り返されるメッセージを、メッセージ部品ごとのハッシュで重複排除することを意図しています。
点をつなぐと見えるもの
ここには2つの含意があります。ひとつは、OpenAI Chat Completions APIがもはや個別ベンダーのAPIではなく、ローカルモデルを含めた「共通の配管」になっているという事実。ローカルで動く qwen3.5-4b のような小型モデルに、OpenAI向けに書かれた既存コードがそのまま接続できることの意味は小さくありません。
もうひとつは、その配管が抱える構造的な負債です。状態をクライアントが持つ設計は実装が単純な反面、トークン消費とログ容量を会話の長さに比例して膨らませます。ログ側でハッシュによる重複排除を行うというアプローチは、この負債に対する処方箋として素直です。
そして作り方そのものも示唆的です。著者によれば、このプラグインは全体をGPT-5.6 Solが書いており、「OpenAI Chat Completions APIの形をとてもよく知っていた」と述べています。仕様が広く共有され枯れている領域ほど、実装はモデルに委ねられるということです。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての実務的な示唆は3つあります。
第一に、モデル移行コストの再計算です。OpenAI Chat Completions互換のエンドポイントが自前で立つなら、SaaS事業者や受託開発会社が抱える「OpenAI SDK前提で書かれたコード」は、base_urlの差し替えだけでローカルモデルに向けられる可能性が出てきます。ベンダーロックインの見積もりを、契約単位ではなく「エンドポイント互換性」の単位で引き直すべき時期です。
第二に、ログとトークンのコスト構造です。Chat Completions方式は毎回全履歴を送る設計のため、ECのチャット接客やSaaSのアシスタント機能のように会話が長期化するユースケースでは、コストもログストレージも会話長に比例して増えます。llm-chat-completions-serverが検証しているハッシュベースの重複排除は、自社のLLMログ基盤（監査・再現性要件を含む）を設計する際の直接の参考になります。「会話ログを全文そのまま保存」しているなら、今のうちに設計を見直す価値があります。
第三に、内製の見積もり基準です。プラグイン全体をGPT-5.6 Solが書いたという事実は、仕様が公知のグルーコードについて、外注や工数見積もりの前提が変わったことを意味します。事業責任者は「作るか買うか」の二択に、「モデルに書かせて社内でレビューするか」を第三の選択肢として加えるべきです。