何が起きたのか
Transformer一強だった大規模言語モデルの基盤アーキテクチャに、有力な対抗馬が登場しました。Mambaは、State Space Models（SSMs）と呼ばれる別系統のモデルに属し、Transformerの計算量がシーケンス長nに対してO(n²)で爆発する「二次のボトルネック」を構造的に取り除きます。結果として、最大5倍の推論速度と、100万トークン規模の長文への線形スケーリングを両立しました。
Mamba-3Bは、同サイズのTransformerを上回り、2倍サイズのTransformerに匹敵する性能を、事前学習・下流タスクの双方で示しています。言語だけでなく音声・ゲノミクスといった複数モダリティでstate-of-the-artを記録しました。
なぜ重要か
Transformerは「効果は高いが効率が悪い」、従来のRNNは「効率は良いが効果が低い」という長年のトレードオフがありました。Mambaはこのパレートフロンティアを外側に押し広げる点に本質的な価値があります。
これまで長文処理ではSliding Window AttentionやFlashAttentionといった「緩和策」でAttentionの二次コストをなだめてきましたが、Mambaは制御理論由来の状態空間方程式（h’(t)=Ah(t)+Bx(t), y(t)=Ch(t)+Dx(t)）をZero-Order Hold（ZOH）で離散化し、根本から計算構造を組み替えています。
設計思想：選択する状態
Mambaの核心はSelection Mechanismにあります。状態遷移を司るA行列と入力取り込みのB行列が入力に応じて動的に変化するため、トークンごとに「何を覚え、何を忘れるか」を選択できます。ステップ幅を表すΔパラメータが各トークンの「滞在時間」を制御し、重要な情報には長く留まる挙動を実現します。
ブロック構造はTransformerと同様にスタック型で、トークン間通信をSSMが、トークン内計算をMLPと線形射影・局所畳み込みが担います。Steve JobsがWWDC ‘97で語った「focusing is about saying no（集中とはノーと言うこと）」という言葉が、設計者によって引用されているのは象徴的です。
💼 事業会社視点：これは自社にどう効くか
役員が今読むべきシグナル
Mambaは「LLMコストの前提が崩れうる」という経営シグナルです。Transformerのコンテキスト長は計算量の壁から数万〜十数万トークンに張り付き、長文処理のたびにRAGや要約で迂回する設計が常識でした。100万トークンが線形コストで扱えるなら、設計思想ごと書き換わります。
法務・金融・医療系SaaSにとっては、契約書群・カルテ・判例の全文を一括投入する検索体験が射程に入り、RAG基盤への先行投資の回収計画を見直す必要が出てきます。受託開発・SIerは、顧客に提案中のLLMアーキテクチャがTransformer前提でロックインされていないか、SSM系への乗り換えコストを早めに見積もるべきです。ECや顧客サポートSaaSでは、顧客との全対話履歴を圧縮なしで保持できる可能性があり、パーソナライゼーションの設計余地が一段広がります。
一方で、Mambaは商用エコシステムが未成熟です。経営判断としては「本番採用」ではなく、R&D枠で小規模PoC、調達契約はTransformerとSSM双方に開けておくのが現実解でしょう。アーキテクチャ単一依存のリスクを下げる時期に入りました。