何が起きたか

DeepSeekがV4-Proモデルの価格を75%引き下げました。本来ならAIを組み込む企業やベンダーにとって朗報のはずですが、「安いモデルを使っても粗利が改善しない」という声が相次いでいます。VentureBeatに寄稿したMaitreyi Chatterjee氏（大手テック企業のシニアソフトウェアエンジニア）とDevansh Agarwal氏（MLエンジニア）は、これを「100倍問題（100x problem）」と名付けました。推論単価は下がっているのに、エージェント型システムが値下がりよりも速くトークンを食う、という現象です。

「1:5」と「1:700」の差

チャットボットなら、ユーザーの1つの質問はおおむね1回のモデル呼び出しになります。入力に対して課金されるトークンの比率は約1:5。ところがエージェントは、同じ1つの質問を「計画→検索→ツール実行→検証→要約→次の判断」というループに分解します。ユーザーが見るのは1つの回答ですが、ベンダーはループ全体に課金されます。カスタマーサポート、営業オペレーション、財務、法務レビュー、エンジニアリングに展開された複数ステップのエージェントでは、この比率が1:700以上に達するのが常態だといいます。ループの各周回が、これまでの会話履歴・ツール出力・推論トレースを丸ごと持ち越すためです。

「先週、最重要顧客は何を聞いてきた？」の請求書

記事はごく単純なクエリを分解しています。ユーザープロンプト約50トークン、システムプロンプトとツール定義が約3,000トークン（呼び出しごとに毎回再送）、検索で約5,000トークンの文脈、モデル呼び出し1（ツール選択・入力8,000／出力200）、ツール実行の戻り約4,000トークン、モデル呼び出し2（要約・入力12,000／出力400）、モデル呼び出し3（後続判断・入力12,400／出力100）。合計7つの課金対象操作、入力にして約35,000トークン。フロンティアモデルなら1クエリ0.10〜0.40ドルです。月間100万クエリなら、この1行が6桁ドルの費目になります。

座席課金という前提が壊れる

影響が最も直接出るのが、SaaSの「1ユーザー月額」モデルです。座席課金は「1ユーザーあたりのコストに上限がある」という前提に立ちますが、トークン増幅はこの前提を壊します。月40ドルのプランで1日50回エージェントを起動するヘビーユーザーは、推論費が課金額を上回りうる。実際、ヘビーユーザーで粗利がマイナスになっていると非公開に報告するベンダーが複数出ており、Bessemerの「Supernova」コホートのクラウド支出レポートでも、AIエージェントの利用率と粗利縮小の相関が「理論上のリスク」から「P&L上の主要な逆風」に移っています。皮肉なのは、最も価値を感じている顧客が最も推論費を生んでおり、最もエンゲージした利用者が最も利益に貢献しない構造になっている点です。BloombergはSalesforceのAgentforceについて、デモと実際に顧客へ提供される機能の乖離が広がっていると報じました。著者らは、Salesforceは「最も注目されているケース」であって「特殊なケース」ではない、と釘を刺しています。

対処法は収斂しつつある

打ち手は出そろってきました。小型の分類モデルがクエリごとに使うモデル階層（Haiku／Sonnet／Opus相当）を振り分けるコストアウェア・ルーティングは、品質を落とさずに推論費を約60%削減できるといいます。プロンプトキャッシュはAnthropic、OpenAI、Googleがキャッシュ済みプレフィックスに75〜90%の割引を提供。コンテキスト規律（ツール出力の切り詰め、推論トレースの剪定、ツール深度の上限設定）、自己ホスト環境向けの投機的デコーディング（同じGPUで実効スループット2〜3倍）も効きます。オーケストレーション層をうまく作れている企業は、金融のトレーディングシステムに似てくる——ルーティング判断ごとに価格がつき、経路ごとにP&Lがあり、テナントごとに予算が計測されている、と著者は書きます。

NvidiaのBryan Catanzaro氏（VP, Applied Deep Learning）の「私のチームでは、コンピュートのコストが従業員のコストをはるかに超えている」という発言も、この転倒を象徴しています。OpenAIがY Combinatorの全スタートアップに200万ドルのAPIクレジットを配る構想も、AIネイティブ企業の1年目にいくらかかるかの告白だと著者は読み解きます。かつてのコホートは数千ドルのAWSクレジットで足りていました。

それでも値下げでは追いつかない

フロンティアの推論単価は年におよそ3倍のペースで下がっており、この曲線は鈍っていません。それでも増幅が値下げを追い越します。エージェントが想定の700倍のトークンを使うなら、75%の単価カットは救いになりません。アーキテクチャの決定が、再びリアルタイムの財務判断になった——プロンプトの再設計は「マージンを動かすイベント」であり、境界を切っていないエージェントループは「クレジットカードが刺さったままの障害」だ、というのが著者らの結論です。

出典: VentureBeat（Maitreyi Chatterjee氏、Devansh Agarwal氏によるゲスト寄稿）

💼 事業会社視点：これは自社にどう効くか

日本企業に効く順に3つ挙げます。

SaaSベンダー（特に月額固定・座席課金）：最も危険です。「AI機能を無料で全プランに開放」は、ヘビーユーザーで粗利がマイナスになる仕掛けを自ら埋め込む行為になりえます。今すぐやるべきは、推論コストを機能別・テナント別・クエリ種別で計測する第一級のメトリクスにすること。それができていないと、値上げも従量制への移行も、根拠なしに顧客へ説明することになります。1,000クエリあたりコストの上限、上限突破時のアラート、ヘビーユーザーのキャップ——広告のメディアバイイングと同じ規律です。

EC・カスタマーサポート：問い合わせ対応をエージェント化すると、1件あたりの応対コストが読めなくなります。セール期のピークで、コールセンター削減分を推論費が食い潰す可能性がある。ルーターを「新しいロードバランサー」としてコアインフラに据え、簡単な問い合わせは小型モデルに落とす設計を先に入れてください。

受託開発・SIer：エージェント案件を人月固定で受けると、運用フェーズの推論費が発注側と受注側のどち���の負担か曖昧なまま炎上します。契約時にトークン消費の上限とその超過時の扱いを明記すること。逆に、コスト最適化（ルーティング、プロンプトキャッシュ、コンテキスト圧縮）そのものが売れるサービスになります。

共通の宿題は、四半期ごとのプロンプト監査です。半年かけて自然に膨らんだ4,000トークンのシステムプロンプトは、毎回の呼び出しに乗る「スローモーションの6桁ドル請求書」です。そして、フロンティアモデルの定価は企業にとって「最悪の価格」です。ボリュームコミットの交渉は、使用量が読めるようになる前に始めるべきです。