XNews

TypeSafe AI、意思決定向けシステムワンモデル「Jev」を発表

TypeSafe AI、意思決定向けシステムワンモデル「Jev」を発表

ChatGPT共同発明者であるDiogo Almeida氏が設立したTypeSafe AIは、テキストではなく調整された確率を伴う構造化された意思決定を出力するシステムワンモデル「Jev」を発表した。Jevは意思決定タスクにおいて、フロンティアLLMと比較して20~200倍の速度向上と40~400倍のコスト削減を実現し、応答時間は70~500ミリ秒である。RLCDトレーニングを採用し、ソフトウェアに組み込んでインテリジェントなif文として使用できるように設計されている。

Key insights

アーキテクチャと速度の利点

Jevは自己回帰的なトークン生成ではなく並列サンプリングを採用し、すべての出力を一度に計算可能。これにより応答時間は70~500ミリ秒となり、フロンティアLLMの3~329秒と比較して大幅に高速化される。自由なテキストを生成しないためハルシネーションを排除し、出力はタイプセーフな構造化結果と調整された確率である。アーキテクチャ上の制約により型エラーは数学的に不可能となっている。

RLCDトレーニング vs RLHF

JevはTypeSafeが開発した新しい手法RLCD(Reinforcement Learning for Calibrated Decisions)を使用して訓練される。創業者のDiogo Almeida氏は、RLHFは本質的にハルシネーションを生むと主張。というのもモデルは報酬モデルを喜ばせるために不確実性を捨てることを学習するからである。RLCDは人間を喜ばせるテキストではなく、調整された意思決定を訓練することでこれを回避する。各意思決定に認識論的に正直な確率を出力する。

価格設定とコスト効率

入力トークン価格は100万トークンあたり0.042ドル(約10億トークンで42ドル)、出力トークンは無料。TypeSafeはJevが同等のインテリジェンスを持つLLMよりも40~400倍安いと主張する。同社は既に収益が上がっており、価格をさらに引き下げる計画。価格戦略はジェボンズのパラドックスに基づく:意思決定あたりのコストが下がれば総利用量は爆発的に増加するという考えである。

ユースケース:インテリジェントif文

Jevは高速な意思決定コンポーネントとしてソフトウェアに組み込むように設計されている。ユースケースとして、ワークフローでのインテリジェントな分岐(チケットの振り分け、緊急度評価)、大規模データ処理(分類、抽出)、リアルタイムアプリケーション(ゲームAI、動的価格設定)、LLM出力のガードレール(安全性チェック、フォーマット検証)などがある。会話型モデルの代替ではなく、構造化決定の補完として機能する。

デモ:DOOMとウィキレース

TypeSafeはJevがDOOMのAIボットを制御するデモを実施。毎秒約10回のクエリで、1時間あたり約7ドルのコストだった。ウィキペディアレース(記事間のリンクを辿るタスク)では、非推論型LLMよりステップ数と速度の両方で優れた性能を発揮した。これらのデモはJevがリアルタイム環境で高速かつ反復的な意思決定を行う能力を示している。

哲学的・市場における位置づけ

名称Jevはジェボンズのパラドックスに由来し、AI意思決定の低コスト化が利用を爆発的に増加させるという賭けを反映している。TypeSafeはJevを新たなカテゴリー「システムワンモデル」(高速・直感的・自動的)として位置づけ、システムツー(低速・熟考的思考)と対比する。同社の使命はソフトウェアが依存できるインターフェースを提供することであり、RLHFベースモデルの限界を超えることとしている。

Source posts