#推論コスト の記事一覧(9)

AI
2026-07-30 ・ The Decoder

小型特化モデルとは?MicrosoftのMAI戦略が示す「フロンティア1本足」からの転換

Microsoft AIは万能フロンティアモデルではなく、分野特化の小型モデルに軸足を移しています。CEOのMustafa Suleyman氏によれば、セキュリティ特化のMAI-Cyber-1-FlashはCyberGymでAnthropicのMythosを12ポイント上回り、コストは半分。画像生成のMAI-Image-2.5-FlashはGPT-Image-2比でGPUコストを最大84%削減するとしています。

AI
2026-07-20 ・ TechCrunch

Google「Frozen v2」とは?Gemini専用の自社AIチップが2028年に狙う電力効率6〜10倍

AlphabetがGeminiを効率的に動かす自社サーバーチップ「Frozen v2」を設計中で、2028年の投入を予定しています。米The Informationが報じ、既存AIチップ比で電力あたりのトークン生成量が6〜10倍向上する可能性があるとされ、報道後にGoogle株は月曜午前に約3%上昇しました。

AI
2026-07-12 ・ VentureBeat

エージェントAIの「100倍問題」とは?DeepSeekの75%値下げでも粗利が改善しない理由

DeepSeekがV4-Proを75%値下げしても、多くのAIベンダーの粗利は改善していません。VentureBeat寄稿記事は、チャットボットの入力対課金比が約1:5なのに対し、複数ステップのエージェントでは1:700に達する「100倍問題」を指摘。トークン消費の増加が価格下落を上回っている、という構図です。

AI
2026-07-09 ・ AI Snake Oil

AI推論はコモディティ化するのか?ナラヤナン論文が示す「儲かるのはモデル層の上」という結論

プリンストン大のArvind NarayananとAkash Kapurが、AIラボの持続的な利益は半導体・データセンター・モデルという基盤層ではなく、その「上のレイヤー」——垂直統合、業務に埋め込まれたエンタープライズ導入、意図的に作り込むスイッチングコスト——から生まれると論じました。鉄道・電力・通信・航空など6つの資本集約型インフラ産業の歴史を引き、2030年代前半までに4〜8兆ドルとされるAIインフラ投資の担い手が、その価値を回収できるとは限らないと指摘しています。

AI
2026-06-30 ・ The Decoder

OpenAIが推論コストを半減、GPU数百台でChatGPT無料層を捌く体制へ

OpenAIが既存モデルの推論コストを半分以下に圧縮し、アカウント無しのChatGPT訪問者を「数百台」のNvidia GPUだけで捌く体制に移行したとThe Informationが報じました。DeepSeekも推論を60〜85%高速化するオープンソース手法を公開しており、フロンティア各社の単位コスト競争が新局面に入っています。

AI
2026-06-29 ・ VentureBeat

DeepSeekのDSparkとは?推論を最大85%高速化する投機的デコーディングの中身と業務インパクト

中国DeepSeekがMITライセンスで公開したDSparkは、LLMの出力を変えずにユーザー単位の推論速度を最大85%、厳しい遅延要件下での総スループットを600%超まで引き上げる投機的デコーディング基盤です。V4-Flash(284B)、V4-Pro(1.6T)に加え、QwenやGemmaにも適用検証されており、オープンウェイトを自社運用する企業のコスト構造に直接効く出来事です。

AI
2026-06-18 ・ TechCrunch

推論ゴールドラッシュとは?Baseten評価額1.3兆円・5カ月で160%増の意味

AI推論基盤を提供するBasetenが、$13B(約2兆円規模)の評価額で$1.5Bの資金調達を最終段階に入れたとWall Street Journalが報じました。わずか5カ月前のシリーズEから評価額は160%上昇し、VCマネーが「推論レイヤー」に殺到する構図が鮮明になっています。

AI
2026-01-24 ・ Ahead of AI

推論時スケーリングとは?LLMの精度を15%から52%へ引き上げる6つの手法を整理

Ahead of AIが、モデルの重みを変えずに推論時の計算量で回答精度を高める「推論時スケーリング(inference-time scaling)」の主要6カテゴリを整理しました。書籍『Build a Reasoning Model (From Scratch)』の実験では、ベースモデルの精度が約15%から約52%へと引き上げられたといいます。

← タグ一覧へ