OpenAI独自チップ「Jalapeño」とは?Broadcom共同開発のLLM推論専用ASICを解説
OpenAIとBroadcomが、大規模言語モデル(LLM)の推論処理に特化したカスタムASIC「Jalapeño」を発表しました。設計から製造まで9カ月という短期間で第一世代を仕上げ、ワット当たり性能で現行最先端を「大幅に上回る」と主張しています。
OpenAIとBroadcomが、大規模言語モデル(LLM)の推論処理に特化したカスタムASIC「Jalapeño」を発表しました。設計から製造まで9カ月という短期間で第一世代を仕上げ、ワット当たり性能で現行最先端を「大幅に上回る」と主張しています。