XNews

TypeSafe AI、高速意思決定のためのSystem Oneモデル「Jev」を発表

TypeSafe AI、高速意思決定のためのSystem Oneモデル「Jev」を発表

ChatGPTの共同発明者であるDiogo Almeidaが設立したTypeSafe AIは、テキストを生成せずに高速で較正された意思決定を行うSystem Oneモデル「Jev」を発表した。Jevは70~500ミリ秒で信頼度スコア付きの構造化結果を出力し、入力トークン100万あたり0.042ドル(出力は無料)で利用可能。RLCDトレーニングにより幻覚(ハルシネーション)を排除している。ソフトウェア統合向けに設計され、分類、ルーティング、抽出タスクのためのインテリジェントなif文として機能する。

Key insights

Jev:テキスト生成ではなく意思決定のための新たなAIモデルカテゴリ

TypeSafe AIは、テキスト生成を完全に廃した初のSystem Oneモデル「Jev」をリリースした。非構造化データを入力として、型安全で構造化された結果を較正された確率とともに出力する。このモデルは、分類、スコアリング、ルーティング、抽出など、ソフトウェアシステム内での高速かつ信頼性の高い意思決定のために設計されている。記事の執筆やチャットはできないが、コード内でインテリジェントなif文として機能する。

従来のLLMに対する速度とコストの優位性

Jevの応答時間は70~500ミリ秒で、最先端LLMの3~329秒と比較される。入力トークン価格は100万トークンあたり0.042ドル(10億トークンあたり42ドル)で、出力トークンは無料。TypeSafeは、GPT-6 AstraとFable 5.1を参照したワークフロー評価に基づき、Jevは同等の知能を持つLLMよりも20~200倍高速で、40~400倍安価であると主張している。この極めて高速な処理は、トークンごとではなく一度にすべての出力を生成する並列サンプリングによる。

RLCDトレーニングが幻覚を排除し、較正された信頼度を保証

Jevは、創業者Diogo Almeidaが開発したRLCD(Reinforcement Learning for Calibrated Decisions)を用いてトレーニングされている。人間を喜ばせるようにモデルを促し、その結果幻覚を引き起こすRLHFとは異なり、RLCDはモデルに事前定義された構造のみを正直な確率で出力するよう訓練する。アーキテクチャ上の制約により、型エラーは数学的に不可能である。モデルは自由なテキストを生成できないため、幻覚を起こすことはなく、例えば「60%確信している」といった信頼度のみを表現できる。

ユースケース:スマートif文、ガードレール、リアルタイムアプリケーション

Jevは、コードフローが人間が読める応答ではなくインテリジェントな判断を必要とするシナリオ向けに位置づけられている。主なユースケースは、ワークフロー内のインテリジェントな分岐(チケットルーティング、緊急度評価など)、大規模データ処理(分類、抽出)、リアルタイムアプリケーション(ゲームAI、動的価格設定)、LLM出力のガードレール(安全性チェック、形式検証)である。DOOMデモでは、Jevがゲームボットを毎秒約10クエリ、約7ドル/時間で制御する様子が示された。

ジェボンズのパラドックスに基づく価格設定哲学

モデル名はウィリアム・スタンリー・ジェボンズに由来し、効率向上が総消費量を増加させるというジェボンズのパラドックスを参照している。TypeSafeは、AIによる意思決定を極めて安価にすることで利用が爆発的に増えると見込んでいる。出力トークンは無料で、同社はすでに収益を上げており、今後も価格を引き下げ続けると主張している。目標は、AIによる意思決定を非常に低コストにし、ソフトウェア内で遍在させ、脆弱なルールエンジンに取って代わることである。

創業者の経歴とRLHFパラダイムからの離脱

Diogo AlmeidaはOpenAIでChatGPTおよびGPT-4の論文を共著し、InstructGPTやRLHFに取り組んだ。彼はRLHFが人間を喜ばせるようにモデルを訓練することで自動化に不適切なものにすると考え、Jevを構築するために退社した。aiDotEngineerでの講演では、報酬モデルがGANのような非対称性を生み出し、モデルに偽の確信を強いることを説明した。JevのRLCDは、人間の承認ではなく較正された意思決定を最適化することで、この問題に直接対処している。

Source posts