何が公開されたか
Soofi S 30B-A3Bは、ドイツAI協会が取りまとめる研究コンソーシアムが公開したオープン言語モデルです。事前学習レポートによれば、完全オープンなモデルの中で英語・ドイツ語ベンチマークの総合スコア首位に立ち、これまでの代表格だったOLMo 3 32B（Allen Institute for AI）やApertus 70B（ETH Zurich／EPFL）を上回りました。比較対象は16のオープンモデルで、欧州の「主権AI」系ベースラインに対してはドイツ語ベンチマーク全項目で勝ち、差が二桁に達した項目もあります。
重要なのは、これが「大きさで勝った」話ではないことです。総パラメータは31.6B、1トークン生成あたりに動くのは約3.2Bのみ。推論コストは3B級に近く、性能は30B級という設計です。
なぜ重要か：コストと速度が実運用の線を越えた
アーキテクチャはNvidiaのNemotron 3 Nanoを無改変で採用しています。Mamba-2層と通常のアテンション層を組み合わせたハイブリッド構成で、52層のうちKVキャッシュを持つのはわずか6層。従来型トランスフォーマーが長文脈でキャッシュが線形に膨らみ、メモリと速度の両方で詰まる問題を回避しています。
効果は数字に出ています。40,000トークンの文脈で32並列リクエストを流すと、14B〜24Bクラスの密モデル比でGPUあたり毎秒トークン数が約8倍。しかもスループットは4,000トークンから256,000トークンまでほぼ横ばいです。この測定で肩を並べたのは、同じくハイブリッド構成のAlibaba「Qwen3.5 35B-A3B」だけでした。長い社内文書やコードベースを丸ごと投げる用途で、GPU台数がそのまま料金になる現実を考えれば、この差は機能差より効きます。
「ドイツ語を増やす」ことの費用対効果
学習は3段階・計約27兆トークン。第1段でウェブ・コード・数学・専門文書を約20兆トークン、第2段で高品質ソースを約6兆トークン、第3段で最大100万トークンの長文書を使い文脈長を拡張しています。
注目すべきはドイツ語比率です。第1段で7.2%、第2段で15.3%。Nemotronの参照レシピでは非英語が合計で約5%ですから、桁違いに寄せています。データはHPLTのドイツ語ウェブテキスト、オープンライセンスのGerman Commons、FinePDFsとFineWikiのドイツ語部分、商用ライセンスのGenios（916紙誌・1億9,300万本の記事）、さらに機械翻訳・合成テキストです。
この「言語を寄せる」投資は、言語運用能力でNemotronベースライン比+15.1ポイント、しかも英語性能を落としていません。副産物としてGPQA-Diamondが+9.6ポイント改善しました。コードもHumanEval 73.8%、MBPP 70.2、ドイツ語版MBPP 84.2でオープン勢最高。ドイツ固有の地域知識を測るINCLUDE-DEでは61.2点で、より大きいQwen3.5 35B-A3Bと首位タイです。
弱点も隠されていない
ドイツ語の競技数学Minerva MATH-DEは56点で、Qwen3.5の76.5、Gemma 3 27Bの65.6に届きません。NaturalQuestionsのようなオープンな事実想起も弱く、著者らはアクティブパラメータが3Bしかないことを理由に挙げています。長文脈テストRULERでは、頻出語の抽出タスクで32,000トークンを超えると命中率が約3%まで落ちます（同型のNemotronは60〜64%）。原因は長文脈学習に抽出タスクの合成データを入れなかったこと、と自ら書いています。残る12タスクでは差はありません。
「オープン」の線引き
公開されるのは重み、一部の中間チェックポイント、学習・評価コード一式、除外ソースまで含むデータ目録です。チームはOpen Source InitiativeのOpen Source AI Definition 1.0を満たすと述べています。一方、全学習トークンの自由な再配布を求める、より厳しい欧州のオープンデータ定義案は満たしません。商用ライセンスのGeniosが1.3%含まれるためで、それでも学習データの約99%は独立に再現可能です。ライセンスは未確定です。
計算基盤はドイツテレコムのIndustrial AI Cloud（ミュンヘン）。全量再生可能エネルギーで動き、Eisbach運河の水で冷却し、排熱は周辺のTucherpark地区に供給されます。Soofi Sはここでの最初期の大規模学習の一つでした。資金は欧州のIPCEI-CISの枠組みでドイツ連邦経済・エネルギー省が拠出。参加機関はFraunhofer IAIS／IIS、DFKI、TU Darmstadt、ヴュルツブルク大学、L3S研究センター、ベルリン応用科学大学、企業ではEllamindとMerantix Momentumです。
筆頭著者のMichael Frommは、Soofi Sを「EuroLLMやTeukenのような広く多言語な欧州主権プロジェクト」と「最高性能の国際的オープンウェイトモデル」の中間に位置づけています。プロジェクトサイトによれば、次フェーズでは技術文書・コード生成・エージェント基盤での検証を担う産業パートナーを募集中です。
💼 事業会社視点：これは自社にどう効くか
日本企業にとっての本質は「ドイツ語」ではなく、言語比率を7〜15%に寄せるだけで、英語性能を落とさず言語能力が+15.1ポイント伸びたという再現可能なレシピです。日本の「国産LLM」議論は基盤モデルをゼロから作るか否かに寄りがちですが、Soofi SはNvidiaのNemotron 3 Nanoを無改変で採用し、勝負をデータ配合と計算基盤に絞りました。253,000GPU時間という規模は、日本の大手事業会社なら単独でも手が届く水準です。
SaaS・受託開発にとって効くのは推論経済です。40,000トークン・32並列でGPUあたり8倍、4,000→256,000トークンでスループットほぼ横ばい。長い契約書・仕様書・コードベースを丸ごと読ませる機能は、これまで「原価が合わない」で企画倒れになってきました。KVキャッシュを持つ層が52分の6という設計が、その前提を崩します。自社プロダクトの長文機能を、密モデル前提の見積もりで却下したなら再計算すべきです。
ECや金融など規制産業では、除外ソースまで含むデータ目録の公開が効きます。監査・調達で「学習データを説明できるか」を問われたとき、重みだけのオープンウェイトでは答えられません。
打ち手は三つ。（1）長文脈ワークロードをハイブリッドMoEで再ベンチし、原価を引き直す。（2）自社ドメイン日本語データを、第2段相当の高品質フェーズに何%入れられるか棚卸しする。（3）数学・事実想起の弱さはアクティブ3Bの構造的限界なので、検索やツール呼び出しで外付けする前提で設計する。モデルを作るかどうかより、どの層で差をつけるかの判断が先です。
