GB200 NVL72はH100の何倍速いと元が取れるか?SemiAnalysisが示すTCO1.6倍の壁
SemiAnalysisがH100とGB200 NVL72の学習性能を比較し、GB200の全体TCOがH100比1.6倍に達するため、最低でも1.6倍の性能向上がなければ採算が合わないと指摘しました。同時に、H100のBF16 MFUがソフトウェア改善だけで1年間に34%から54%へ向上した事実も明らかにしています。
SemiAnalysisがH100とGB200 NVL72の学習性能を比較し、GB200の全体TCOがH100比1.6倍に達するため、最低でも1.6倍の性能向上がなければ採算が合わないと指摘しました。同時に、H100のBF16 MFUがソフトウェア改善だけで1年間に34%から54%へ向上した事実も明らかにしています。