TypeSafe AI、システムワン意思決定モデル「Jev」を発表

ChatGPTの共著者であるDiogo Almeidaが創業したTypeSafe AIは、新しいカテゴリーのAIモデル「Jev」を発表した。このモデルは「System One」と呼ばれる。Jevは自由形式のテキストを生成せず、代わりに校正された確率を伴う型安全な構造化結果を出力する。コード内での迅速な意思決定(分類、ルーティング、抽出)向けに設計されており、System Oneタスクにおいて最先端のLLMと比較して20~200倍高速で、40~400倍低コスト。応答時間は70~500ミリ秒、出力トークンは無料。
Key insights
アーキテクチャ: テキスト非生成、並列サンプリング、型安全性
Jevは、LLMのような逐次的なトークン生成とは異なり、すべての出力を一度に計算する並列サンプリングを採用している。自由形式のテキストは生成せず、出力構造は事前定義されているため、型エラーは数学的に不可能であり、幻覚を排除する。各出力には、認識論的に正直な確率が付与される。これは、TypeSafeが開発した新しい訓練手法であるRLCD(Reinforcement Learning for Calibrated Decisions)に基づいている。
パフォーマンスと価格設定
応答時間は70~500ミリ秒(対する最先端LLMは3~329秒)。入力トークン価格は100万トークンあたり0.042ドル、出力トークンは無料。TypeSafeは、System Oneタスクにおいて同等の知能で20~200倍高速、40~400倍低コストと主張する。ワークフロー評価ではGPT-6 AstraとAnthropic Fable 5.1をリファレンスとして使用しており、Jevの相対性能は過小評価されている可能性がある。ただし、極端な速度倍率(193倍、444倍など)は最良のシナリオを表している。
ターゲットユースケース: インテリジェントif文
Jevは、表現ではなくAIの判断を必要とするコードのコンポーネントとして設計されている。ユースケースには、ワークフロー内のインテリジェントな分岐(チケットルーティング、感情検出)、大規模データ処理(分類、ラベリング、抽出)、リアルタイムアプリケーション(ゲームAI、動的価格設定)、およびガードレール(LLM出力の安全性、フォーマット、脱獄の確認)が含まれる。同社はこれらを「スマートif文」と呼び、ルールエンジンでは脆弱すぎ、LLMでは遅すぎる、またはコストが高すぎる場面に最適としている。
コミュニティによるデモと実験
いくつかのデモがJevの能力を示している。リアルタイムのDOOM AI制御(約10コール/秒、1時間あたり7ドル)、Wikipediaレーシングゲーム(非推論型LLMよりも少ないステップ)、セマンティック検索(意味を理解するCtrl+F、例えばPostgreSQLで「リモートワーク」を検索)、そしてManusチームによるゲーム制作(ブラウザと3Dレンダリングで迅速な意思決定にJevを活用)。これらは、高速で低コストな意思決定モデルが新たなインタラクションを可能にすることを示している。
製品のポジショニングと価格設定の哲学
TypeSafeのCEOは、単位知能の価格競争ではなく、タスク空間の拡大に賭けていると説明した。「Jev」という名称は、ジェヴォンズのパラドックスに由来する。つまり、資源の効率が向上すると総消費量が増加するという考え方である。出力トークン無料は、意思決定コストが極めて低く、課金する価値がないことを反映している。同社はすでに収益性を達成しており、さらに価格を下げる計画である。これにより、JevはLLMの競合ではなく、決定論的な意思決定ノードの補完として位置づけられている。