Recursive、Flintをリリース:400億パラメータのローカルコーディングMoEモデル

RecursiveはFlintをリリースした。これは400億パラメータのmixture-of-expertsコーディングモデルで、トークンあたり25億パラメータを活性化し、ラップトップ上でローカルに動作する。Flintはエージェント型コーディングベンチマークにおいて、500億パラメータ未満のMoEモデルをリードし、M4 Pro MacBook Pro上で毎秒125トークン以上を生成する。このモデルは、同社のEureka Machine自動研究システムを用いて、4か月未満でゼロから構築された。
イベントのバージョン 1.
Key insights
クラス内トップのエージェント型コーディング性能
Flintは、SWE-Bench Pro v2、Terminal-Bench 2.1、SWE-Bench Verifiedを含むエージェント型コーディングベンチマークにおいて、総パラメータ数500億未満のMoEモデルをリードする。250億から400億パラメータの密モデルに匹敵しながら、5倍以上の速度で動作する。
高速なローカル推論
FlintはM4 Pro MacBook Pro上で毎秒125トークン以上、64GB NVIDIA RTX Spark上で短いコンテキストにおいて毎秒150トークン以上を生成する。同等モデルの最大2倍の速度で動作する。
自動研究による構築
RecursiveのEureka Machineは、アイデア創出、実装、検証という研究ループを自動化し、Flintのモデル構築スタックのほぼすべての部分に貢献した。その貢献には、より疎なモデル形状、品質をほぼ損なわずにFlintを71%縮小した低ビットトレーニング、カスタムカーネルが含まれる。
ローカルプライバシーとオープンウェイト
Flintは最大512kトークンのコンテキストウィンドウをサポートし、256kトークン以内に収めることが推奨される。ローカルで動作するためデータはユーザーのコンピュータ上に留まり、オフラインで動作する。オープンウェイトはHugging Faceで利用可能で、llama.cpp、Ollama、LM Studio、vLLM、SGLang、Unslothをサポートする。