XNews

TypeSafe AI、高速意思決定向け「Jev System One」モデルを発表

TypeSafe AI、高速意思決定向け「Jev System One」モデルを発表

TypeSafe AIは、高速意思決定向けのSystem Oneモデル「Jev」を発表した。70〜500ミリ秒で構造化された結果をキャリブレーションされた信頼度とともに出力し、フロンティアLLMと比較して20〜200倍高速である。入力コストは100万トークンあたり0.042ドル、出力は無料。このモデルは自由文を生成できないため、幻覚を排除する。

Key insights

Jevは並列サンプリングによりミリ秒単位の意思決定速度を実現

自己回帰型LLMとは異なり、Jevは並列サンプリングを使用してすべての出力を同時に計算し、70〜500ミリ秒の応答時間を可能にする。GPT-6 AstraやClaude Fable 5.1などのフロンティアモデルと比較して20〜200倍高速であり、コスト面では40〜400倍安価である。

Jevは自由文を生成しないため幻覚を排除

Jevは、関連する信頼度スコアを伴う事前定義された構造化タイプのみを出力する。アーキテクチャ上の制約により、型エラーは数学的に不可能である。この設計は、幻覚を引き起こすRLHFのモデル信頼度強制傾向への対応である。Jevはキャリブレーションされた確率のみを表現できる。

新しいRLCDトレーニングはキャリブレーションされた意思決定に焦点

Jevは、TypeSafe CEOのDiogo Almeida氏が開発した手法であるRLCD(Reinforcement Learning for Calibrated Decisions)を使用してトレーニングされている。RLHFとは異なり、RLCDは人間の承認ではなく、正確でキャリブレーションされた意思決定を最適化する。これにより、LLMの過信を引き起こす報酬モデルの非対称性に直接対処する。

Jevは分類、ルーティング、スコアリング、抽出タスク向けに設計

このモデルは、意図分類、ドキュメントタグ付け、リアルタイムレコメンデーション、ガードレール検証などのタスクにおいて、脆いルールエンジンや高価なLLMを置き換えることを目的としている。コードパイプラインに判断関数として埋め込むことができる。デモには、DOOMボットを毎秒10クエリ(1時間あたり7ドル)で制御するものや、Wikipediaレースが含まれる。

無料の出力トークンと低い入力コストで大量使用を促進

Jevは入力トークン100万個あたり0.042ドル、出力は無料である。この価格設定は、ジェボンズのパラドックスを反映しており、意思決定コストが下がるにつれて使用量が倍増する。TypeSafeはすでに黒字化しており、さらなる値下げを計画していると主張している。これはトークン課金制のLLMとは対照的である。

Jevはコーディングエージェントではないが、CEOは現在のエージェント設計を批判

TypeSafe CEOは、多くのコーディングエージェント機能はKVキャッシュの制限に対する回避策であると主張している。Jevはコーディングエージェントではないが、コンポーネントとして使用できる。同氏は、明示的な状態管理と動的なコンテキスト再構築を備えた「TypeSafe中心」のエージェント設計を提案しており、これによりコスト削減とルーティング改善が可能になる可能性がある。

Jevは早期アクセス版、ウェイトリスト経由で提供

このモデルは早期アクセスでリリースされている。開発者はウェイトリストに参加できる。完全な一般公開はまだ行われていない。

Source posts