Taalasとは?AMDが買収した「モデルをシリコンに焼き込む」推論チップの正体と狙い
AMDが、カナダ・トロント発のAIスタートアップTaalasを買収します。Taalasはモデルの構造と学習済みパラメータをチップに直接埋め込む方式で、Llama 3.1-8Bのデモでユーザーあたり毎秒16,000トークン超という他社推論チップを大きく上回る速度を示していました。
AMDが、カナダ・トロント発のAIスタートアップTaalasを買収します。Taalasはモデルの構造と学習済みパラメータをチップに直接埋め込む方式で、Llama 3.1-8Bのデモでユーザーあたり毎秒16,000トークン超という他社推論チップを大きく上回る速度を示していました。
AI推論チップ専業のスタートアップEtchedが評価額50億ドル、契約受注10億ドルに到達しました。TSMCでの製造に成功し、チップ・ラック・ソフトを束ねた「frontier inference clusters」の顧客テストに入っています。