TypeSafe AI、非テキスト意思決定モデル「Jev」を発表

ChatGPTの発明者であるDiogo Almeida氏が共同設立したTypeSafe AIは、テキストを生成しないSystem One意思決定モデル「Jev」を発表した。Jevは70~500ミリ秒で応答し、入力トークン100万個あたり0.042ドル(出力は無料)で、分類、ルーティング、抽出のために設計されている。RLCDによるトレーニングで幻覚を排除し、較正された確率を提供する。
Key insights
Jevの主要仕様とパフォーマンス
Jevは応答時間70~500ミリ秒を実現し、これは最先端のLLM(3~329秒)と比較して大幅に短い。入力トークン価格は100万トークンあたり0.042ドル、出力は無料。TypeSafeは、GPT-6 AstraとFable 5.1を基準としたワークフロー評価に基づき、同等の知能を持つLLMと比べて20~200倍高速で、40~400倍低コストだと主張する。シーケンシャルなトークン生成ではなく並列サンプリングを使用することで、速度面での優位性を実現している。
技術基盤:RLCDと幻覚の排除
JevはRLCD(較正意思決定のための強化学習)でトレーニングされており、RLHFが持つ幻覚誘発インセンティブを回避する。モデルは自由にテキストを生成できず、出力構造は事前定義されており、型エラーは数学的に不可能である。各出力には認識論的に正直な確率スコアが含まれる。このアーキテクチャは、標準的なLLMにおける過信と幻覚の問題に直接対処する。
ユースケース:ソフトウェアのためのインテリジェントif文
Jevは、コードコンポーネントがスマートな判断を必要とするがテキスト生成は不要なシナリオ(分類、スコアリング、ルーティング、抽出、ガードレール)を対象とする。例として、カスタマーサービスのチケットルーティング、大規模ドキュメント処理(入力10億トークンあたり42ドル)、ゲームAIのようなリアルタイムアプリケーション(DOOMデモで毎秒約10コール、約7ドル/時間)、LLM出力の安全性とフォーマット準拠をチェックするガードレールなどがある。チャットモデルの代替ではないことを明示している。
創業者のビジョンとジェボンズのパラドックス
名称「Jev」はジェボンズのパラドックス(効率が向上すると総消費量が増加する)に由来する。TypeSafe CEOのDiogo Almeida氏は、AI意思決定コストをほぼゼロに抑えることで使用量が爆発的に増加すると主張する。同氏はJevを、RLHFベースのモデルが信頼性に課題を抱える「エージェント時代」の後継と位置付けている。同社はすでに収益を上げており、価格をさらに引き下げ、ボリューム成長に賭ける方針だ。
提供状況と統合方法
Jevは現在アーリーアクセス段階で、開発者はウェイトリストに登録可能。APIはメッセージストリームではなく、構造化されたプログラム状態から型付けされた意思決定への変換に基づく。システムアーキテクチャ内のコンポーネントとして組み込まれることを想定しており、ルールエンジンでは扱いにくいあいまいな基準に対する「インテリジェントif文」として機能する。