#Nvidia CMX の記事一覧（1）

KVキャッシュとは？AI推論で台頭する「第3のストレージ階層」CMXをNvidiaとSolidigmの動きから読み解く

NvidiaがCMXとして定式化した「コンテキスト階層」が、GPUメモリとバルクストレージの間に新設されつつあります。SolidigmはこのKVキャッシュ専用のSSDを開発しており、AI推論のボトルネックは計算力からコンテキスト保持へと移りつつあります。