何が起きたか
Google Researchが、表形式データ向けの基盤モデル「TabFM」を発表しました。企業データの多くはデータウェアハウス・CRM・財務台帳といった表形式ですが、従来はデータセットごとにモデルをゼロから学習し、ハイパーパラメータ調整・特徴量エンジニアリング・データドリフト対策の再学習パイプラインを回す必要がありました。
TabFMはこれを「文脈内学習(in-context learning)」の問題として捉え直します。既知ラベル付きの過去データと予測したい行を一つのプロンプトとしてまとめて渡すと、モデルは重みを一切更新せず、その場で列と行の関係を読み取って予測を返します。未知の表に対しても1回のフォワードパスで結果が出るため、本番投入までの時間が数週間から1回のAPIコールに縮みます。
なぜLLMでは代替できなかったのか
汎用LLMは表が苦手です。中規模の表でコンテキスト上限を使い切り、トークナイザが数値を分割して精度を壊し、2次元の表を1次元の文字列に直列化する過程で構造を失います。TabFMはデータを「グリッド(格子)」として扱い構造を保持する点が異なります。
仕組みは3つ。行と列の注意機構(アテンション)を交互にかけ、CLSトークンで各行を1本の密ベクトルへ圧縮し、圧縮した埋め込みの上で因果Transformerによる文脈内学習を行います。先行研究であるTabPFN(Prior Labs)とTabICL(フランスの国立デジタル科学技術研究所)の強みを統合した設計です。
学習データは「合成」
TabFMは、構造的因果モデル(SCM)で生成した数億件の合成データセットのみで事前学習されており、実在の機密CSVを取り込んでいません。数学的な事前分布を学ばせるアプローチです。公開ベンチマークでは、入念に調整した教師あり手法と同等かそれ以上のゼロショット性能を示しましたが、Googleは「あらゆる本番モデルを置き換えるものではない」と釘を刺しています。32通りの変種を通して結果を混ぜる「TabFM-Ensemble」構成でさらに性能を伸ばせます。
経済構造が逆転する
最大の特徴は機械学習の経済性が反転する点です。学習時間はゼロになる一方、推論は重くなります。予測のたびに過去データ全体を文脈として処理するため、計算資源とメモリを多く消費し、この予測レイテンシはキャッシュで消せません。
💼 事業会社視点:これは自社にどう効くか
専任データサイエンスチームを持たない企業にこそ効きます。TabFMはscikit-learn互換API(TabFMClassifier/TabFMRegressor)でpandasを直接扱え、エンコーダやスケーラーの手作業が不要。データアナリストやバックエンドエンジニアだけで、高品質なベースラインを即座に立ち上げられます。SaaSや受託開発で「まず精度の当たりをつけたい」PoC段階の速度が武器になります。
ただし現時点で経営判断すべき制約が2つ。第一にライセンス——コードはApache 2.0ですが、Hugging Faceの学習済み重みはtabfm-non-commercial-v1.0で、社内評価は可でも商用デプロイは不可。第二に適用範囲——分類は出力10クラスまで、特徴量500程度、10万行未満が得意で、100万行超の巨大テーブルや数ミリ秒応答の本番APIには従来のXGBoost等が優ります。データドリフトが激しいECの需要予測や、少量データの試作では検討価値が高く、まずはBigQueryのAI.PREDICTで評価から始めるのが現実的です。