TypeSafe AI、『システム1』意思決定モデルJevを発表

ChatGPTの共同執筆者が共同設立したTypeSafe AIは、テキストを生成せず、調整された確率を伴う構造化された意思決定を出力する『システム1』意思決定モデルJevを発表した。分類、ルーティング、抽出タスクにおいて、最先端のLLMと比較して20~200倍高速で、40~400倍低コストである。
Key insights
Jevの技術的アーキテクチャはLLMと根本的に異なる
Jevは自己回帰型トークン生成ではなく並列サンプリングを採用しており、応答時間は70~500ミリ秒です。事前定義された構造化結果を信頼度スコアとともに出力するため、型エラーは数学的に不可能となり、幻覚(ハルシネーション)を排除します。このモデルは、TypeSafe AIが開発した新しい手法であるRLCD(Reinforcement Learning for Calibrated Decisions、調整された意思決定のための強化学習)によって訓練されています。
Jevは一般的な対話ではなく、特定の自動化ユースケースを対象とする
Jevはソフトウェアワークフローにおける『インテリジェントなif文』(分類、スコアリング、ルーティング、抽出、ガードレール)のために設計されています。ゲームAI(10コール/秒のDoomデモ)、大規模データ処理、LLM出力の品質チェッカーなどのリアルタイムアプリケーションで優れています。ChatGPTやClaudeを置き換えるものではなく、コード内での高速で信頼性の高い意思決定のギャップを埋めるものです。
Jevのリリース後、オープンソースのSystem 1モデルが急速に登場
Jevの発表から7日以内に、オープンソースのSystem 1モデルがGitHubとHugging Faceに登場しました。そのうちの1つのモデルはGitHubで15,000のスターを獲得し、Hugging Faceのトレンドで1位になりました。この急速な再現は、開発者の強い関心とアプローチの実現可能性を示しています。
Jevの価格設定とビジネスモデルは大規模な採用を目指す
TypeSafe AIは、入力トークン100万個あたり0.042ドルを請求し、出力トークンは無料です。同社はすでに黒字化しており、さらに価格を引き下げる計画であると述べています。『Jev』という名称はジェヴォンズのパラドックスに由来し、意思決定コストの大幅な低下が使用量の爆発的な増加につながるとの確信に基づいています。