XNews

TypeSafe AIが迅速な意思決定を実現するAIモデル「Jev」を発表

TypeSafe AIが迅速な意思決定を実現するAIモデル「Jev」を発表

ChatGPTの共同発明者によって設立されたTypeSafe AIは、ソフトウェアにおける高速かつ構造化された意思決定を目的としたSystem Oneモデル「Jev」を発表した。Jevは信頼度スコア付きの型安全な結果を出力し、最先端のLLMと比較して20~200倍高速、40~400倍低コストで動作し、自由なテキストを生成しないため幻覚を排除する。

Key insights

RLCD学習による幻覚の排除

TypeSafe AIのJevは、RLHFではなくRLCD(強化学習による較正された意思決定)と呼ばれる新しい学習手法を採用している。自由なテキストを生成しないため、Jevは幻覚を起こさず、認識論的に正直な信頼度スコアとともに、事前定義された構造化結果のみを出力する。これにより、モデルが人間を喜ばせるために自信を偽ることを学習するRLHFの根本的な問題に対処している。

パフォーマンス:20~200倍高速、40~400倍低コスト

Jevの応答時間は70~500ミリ秒で、最先端のLLMの3~329秒と比較される。入力トークン価格は100万トークンあたり0.042ドル、出力トークンは無料。TypeSafeは、Jevが同等の知能を持つモデルよりも20~200倍高速で40~400倍低コストであると主張しているが、極端な倍数は最良のシナリオを示している。この速度は並列サンプリングアーキテクチャによるものである。

アーキテクチャ:自己回帰型生成ではなく並列サンプリング

従来のLLMがトークンを順次生成するのに対し、Jevは並列サンプリングを使用してすべての出力を一度に計算する。このアーキテクチャの転換は、TransformerがRNNに取って代わったことに類似しており、劇的な速度向上を可能にしている。トレードオフとして、Jevは任意のテキストを生成できず、事前定義された構造化された意思決定タイプのみを出力する。

ユースケース:ソフトウェアのためのインテリジェントなif文

Jevは、分類、ルーティング、スコアリング、抽出、分岐など、コード内で「スマートなif文」が必要なシナリオ向けに設計されている。具体的な応用例としては、リアルタイムゲームAI(DOOMで毎秒10クエリ、約7ドル/時間)、Wikipediaレース、カスタマーサービスチケットのルーティング、大規模データ処理、LLM出力のガードレールなどがある。ルールエンジンでは脆すぎ、LLMでは遅すぎる/高すぎるというギャップを埋める。

製品ポジショニング:チャットボットではなくソフトウェアの構成要素

TypeSafeはJevをChatGPTやClaudeのような対話モデルの補完として明確に位置づけている。Jevはエンドユーザー向けではなく、システムアーキテクチャにAI意思決定ノードを組み込む開発者向けである。APIはメッセージストリームではなく、構造化されたプログラム状態を入力として受け取り、型付けされた決定を出力する。目標は「ジャストインタイムのソフトウェアではなく、よりスマートなソフトウェア」である。

ジェヴォンズのパラドックス:効率性が利用増加を促進

「Jev」という名前は、効率性の向上が総消費量の増加につながるジェヴォンズのパラドックスに由来している。TypeSafeは、AIの意思決定を極めて低コスト(出力トークン無料、入力トークン0.042ドル/100万)にすることで、AI利用量が爆発的に増加すると確信している。同社はすでに収益を上げており、今後も価格を引き下げる計画であると述べている。

提供状況:ウェイトリストによる早期アクセス

Jevは現在、早期アクセスで利用可能である。開発者はTypeSafeのウェブサイトでウェイトリストに登録できる。このモデルはすでにさまざまなタスクで本番運用されており、同社はDOOMやWikipediaレースを含むライブデモを実演している。

Source posts