Jev発表:ChatGPT共同発明者が手掛ける意思決定AI

ChatGPTの共同発明者が設立したTypeSafe AIは、事前定義された選択肢から構造化された意思決定のみを出力することでハルシネーションを排除するAI「Jev」を発表した。JevはLLMの20倍から200倍の速度を誇り、較正された信頼度を備える。応用例には、Doomエージェント、ブラウザ自動化、LLM評価などが含まれる。出力トークンは無料で、同社はすでに黒字化を達成している。
Key insights
設計によるハルシネーションの排除
Jevは自由なテキストを生成せず、事前定義された型と値からのみ出力を行う。これにより、型エラーは数学的に不可能となる。各出力には、認識論的に誠実な確率が含まれる。対照的に、RLHFで訓練されたLLMは、不確実性に対するペナルティを避けるため、自信があるふりをするように学習する。Jevの出力は常に、自らが知っていることの較正結果である。
速度とコストの優位性
System One(システム1)タスクにおいて、JevはLLMより20倍から200倍高速である。Doomのデモでは、1時間あたり約7ドルのコストで毎秒10クエリを処理した。出力トークンは無料であり、TypeSafe AIによれば課金する価値もないほど低コストだという。同社はすでに黒字化しており、今後も価格の引き下げを続けるとしている。
RLCD対RLHF
JevはRLHFではなく、RLCD(Reinforcement Learning from Calibrated Decisions:較正された意思決定に基づく強化学習)を採用している。同社CEOは、報酬モデルにはGANに似た非対称性があると主張する。不確実性がペナルティの対象となるため、LLMは確信の持てないパターンを放棄し、ハルシネーションを生むという。Jevは文字列を一切生成せず、信頼度付きの選択肢のみを提示することで、この問題を回避している。
製品ポジショニング:スマートなif文
Jevは「ジャストインタイムのソフトウェアではなく、より賢いソフトウェア」として位置づけられている。分類、ルーティング、スコアリング、抽出、分岐、ガードレールといった、ハードコードされたルールでは脆く、LLMには高コストかつ低速すぎるタスクに優れている。開発者は信頼度のしきい値を設定でき、高い信頼度の場合は自動実行、低い信頼度の場合は人間へのエスカレーションが行われる。
アーキテクチャ:事前学習済み知能の取り込み
Jevは知能を再発明するのではなく、事前学習済みモデルの知能を較正された意思決定へと取り込む。CEOは「インターネットを知能カーネルへと圧縮することは素晴らしい。問題はその発見手法にある」と述べた。Jevは異なる手法を用いて、その知能を構造化された意思決定空間へと抽出する。
経済的ロジック:ジェボンズのパラドックス
Jevという名前はウィリアム・スタンリー・ジェボンズにちなむ。ジェボンズのパラドックスは、効率の向上が総消費量を増加させることを示している。TypeSafe AIは、意思決定コストが桁違いに下がるにつれ、利用量はそれ以上に増加するという見立てだ。タスク空間は、限界コストほぼゼロでの高い再利用性を考慮して選定されている。
応用例とエコシステム
Jevは、Doom(リアルタイムゲームプレイ)、Minecraft、ブラウザエージェント、LLM評価などで実演されている。「インテリジェントなif文」として設計されており、ソフトウェアが信頼性の高いAIによる意思決定を必要とするあらゆる場面で利用できる。同社は、これが単なる補完APIではなく、ソフトウェアが依存できるAI向けのインターフェースになると考えている。