#Instinct GPU の記事一覧（1）

Taalasとは？AMDが買収した「モデルをシリコンに焼き込む」推論チップの正体と狙い

AMDが、カナダ・トロント発のAIスタートアップTaalasを買収します。Taalasはモデルの構造と学習済みパラメータをチップに直接埋め込む方式で、Llama 3.1-8Bのデモでユーザーあたり毎秒16,000トークン超という他社推論チップを大きく上回る速度を示していました。