何が起きたか

VentureBeatの調査部門VentureBeat Pulse Researchが2026年Q2（6月）に実施した調査(n=107、従業員100人超)は、AIインフラへの支出が加速する一方で、その費用対効果を「見る・操る」能力が追いついていない実態を描き出しました。同調査はこれを『コンピュートギャップ』と呼びます。

実運用の成熟度は低く、AIを大規模に本番運用できているのは21%のみ。38%はPoC段階、37%は一部ワークロードのみ本番、4%はまだ運用なしで、実に76%が実験または部分本番にとどまります。

「測れていない」ことの深刻さ

象徴的なのは効率とコスト把握の欠如です。83%がGPU稼働率50%以下と回答し、AIコンピュートのコストを厳密に追跡できているのは44%未満。高価なGPUの半分以上を遊ばせながら、その原価すら半数が把握できていないことになります。

さらに16%は、推論のスケールに伴う「GPU演算からメモリ帯域へのボトルネック移行」に未対応・未認識でした。

現状のスタックと「使っていない層」への期待

現在のクラウドはGoogle Cloud 48%、Microsoft Azure 29%、AWS 22%、Oracle Cloud 22%。モデルはGemini 41%、OpenAI 40%、Anthropic 12%(回答者平均2.1選択で、支出でなく採用の有無を測定)。一方、CoreWeaveやLambda、Crusoe、Nebius、Together、Fireworksといった専門型「ネオクラウド」GPU事業者は各社2%未満です。

興味深いのは、次の投資先として最も多く挙がったのが「ほぼ誰も今使っていない」AI特化型クラウド(45%)だった点。純モメンタムでも専門AIクラウドは+24とハイパースケーラーの+22を上回りました。評価予定は非NVIDIAアクセラレータ32%、NVIDIA Blackwell(GB300)等の次世代GPU 28%と続きます。

切り替えは「今すぐ」

64%が12カ月以内、38%が次の四半期以内にインフラの切替・追加を計画。購買の決め手は既存クラウド・データ基盤との統合(41%)とTCO(35%)で、トークン単価を決定要因とするのはわずか8%でした。乗り換え検討の対象も新興ではなくAzure・Google Cloud(各33%)、OpenAI(30%)といった既存勢が中心です。

💼 事業会社視点：これは自社にどう効くか

日本企業への含意は明確です。第一に、GPU稼働率50%以下が83%という数字は、コスト把握なきAI投資が「使途不明の固定費」に化ける危険を示します。SaaS企業やEC事業者の経営者は、まずワークロード別のコンピュート原価を可視化する体制(FinOps相当)を先に作るべきで、モデル選定より優先順位が高い論点です。第二に、購買の決め手がトークン単価(8%)ではなく既存基盤との統合(41%)とTCO(35%)である点は、受託開発・SIerにとって好機です。安さの提案より、顧客の既存クラウド・データ基盤に馴染む形で運用効率とコスト可視化まで含めて設計できる事業者が選ばれます。第三に、64%が12カ月以内に切替・追加を検討する流動的な市場では、日本のサービス提供側は「乗り換えやすさ」と「ロックインの説明」を営業設計に組み込むべきです。ネオクラウドや非NVIDIA(TPU/Trainium/AMD Instinct等)を評価するにしても、まず自社の稼働率と原価を掴むのが先決です。