OpenAI互換APIをローカルで立てるとは？llm-chat-completions-serverが突く会話ログ肥大化の盲点
Simon Willison氏がLLMプラグイン「llm-chat-completions-server 0.1a0」を公開しました。`llm chat-completions-server -p 9001` の一行で、インストール済みの全モデルをOpenAI Chat Completions互換のローカルエンドポイントとして公開でき、真の狙いはLLM 0.32rc1で導入されたコンテンツアドレッサブルなログ、つまり会話履歴の重複をハッシュで排除する仕組みの検証にあります。