ByteDanceの10兆パラメータ級モデルとは？中国最大規模が示すAI開発競争の次の局面
Financial Timesによると、TikTok親会社のByteDanceが最大10兆パラメータのAIモデルを訓練中で、実現すれば中国最大規模となります。現在中国最大のMoonshot「Kimi K3」の3倍で、業界推定で約8兆パラメータとされるAnthropicの最上位システム「Mythos 5」と同じ水準に入ります。
#大規模言語モデル の記事一覧（3）
MiniMax「M3 Pro」とは？2.7兆パラメータの中国製オープンソースLLMが示すもの
中国AIスタートアップのMiniMaxが、2.7兆パラメータのオープンソース大規模言語モデル（社内名称M3 Pro）を早ければ第3四半期に公開する計画だと、The Informationが関係者2名の話として報じました。現行のM3（4280億パラメータ）から6倍以上に規模を拡張し、中国市場で最大のモデルとなる見通しです。
Googleが提唱する「誠実な不確実性」：LLMが「自信ある誤り」を乗り越えるためのメタ認知アプローチ
GoogleのGal Yona氏らの研究チームは、大規模言語モデル（LLM）のハルシネーション問題を「確信度と言語表現のずれ」と捉え直す「誠実な不確実性（Faithful Uncertainty）」という技術概念を発表した。誤り率を25%から5%に抑えようとすると正しい回答の52%が失われるという従来のトレードオフを、回答拒否ではなく確信度に応じた表現で応答することにより解消しようとするものだ。