Cohereが「North Mini Code」を発表
Cohereは、「North Mini Code」と称する新しいオープンソースのコーディングエージェントを発表しました。このモデルは、30億のパラメータを持ち、3億パラメータをトークンごとに活性化します。特徴として、単一のH100 GPUで動作することが可能で、コストを抑えつつ高いパフォーマンスを実現します。
優れた性能と利便性
「North Mini Code」は、多くの類似モデルに比べて3倍の出力トークンを生成することが可能で、その一方で冗長性があることが課題となっています。しかし、256,000トークンのコンテキストウィンドウと64,000トークンの最大生成長をサポートしており、特にエージェントを伴うソフトウェアエンジニアリングに最適化されています。さらに、このモデルは端末ベースのタスクにも対応しており、エンジニアにとって便利なツールとなるでしょう。
訓練と性能の裏付け
このモデルの訓練には、約5,000のリポジトリから70,000以上のタスクが使用されました。その結果、出力のスループットは2.8倍に向上し、トークン間の待ち時間は30%短縮されました。また、評価の指標においても10%の向上を示しています。
経済的かつオープンなアプローチ
CohereのNick Frosst氏は、このモデルの経済的価値を評価し、「突然、人々はモデルから得られるトークンの経済的価値を見直し始めたようです」と述べています。また、同氏はモデルを「小型でコスト効率が高く、Apache 2.0のライセンスのもとでローカルに展開可能。これはLLMsが進むべき方向であり、大型で高価、独占的なアプローチとは異なり、透明で主権を持つものです」とも評価しています。
このような特性を持つ「North Mini Code」は、開発者にとって新たな選択肢となるだけでなく、オープンソースコミュニティにも多大な影響を与えることでしょう。
（出典：VentureBeat）
