#線形アテンション の記事一覧(1)

AI
2025-11-04 ・ Ahead of AI

線形アテンションとは?Qwen3-NextやKimi LinearがLLMの常識を変える理由

Qwen3-Next、Kimi Linear、MiniMax-M1など、計算量をO(n²)からO(n)に下げる「線形アテンション」を採用したLLMが2025年6月以降相次いで登場。Qwen3-Nextは262kトークンのネイティブ文脈長を実現し、長文処理のコスト構造を塗り替えつつあります。

← タグ一覧へ