XNews

ChatGPT共同発明者が創業したTypeSafe AI、「システム1」型意思決定モデル「Jev」を発表

ChatGPT共同発明者が創業したTypeSafe AI、「システム1」型意思決定モデル「Jev」を発表

ChatGPTの共同発明者であるディオゴ・アルメイダ氏が創業したTypeSafe AIは、テキスト生成を行わずに高速な構造化意思決定を実現する「システム1」モデル「Jev」を発表した。Jevは、分類、ルーティング、スコアリングのタスクにおいて、最先端のLLMと比較して20〜200倍高速かつ40〜400倍低コストである。校正された確率を伴う型安全な結果を出力し、ハルシネーションのリスクがない。

Key insights

Jevの設計:RLHFではなくRLCDを採用

ChatGPTの共同発明者であるディオゴ・アルメイダ氏はOpenAIを退職し、校正された意思決定のための強化学習(RLCD)を用いてJevを開発した。同氏は、RLHF(人間のフィードバックによる強化学習)は人間を喜ばせるようモデルを訓練するため、ハルシネーションや過信を引き起こすと主張している。Jevは自由形式のテキストを生成せず、認識論的に誠実な確率を伴う事前定義済みの構造化結果を出力する。これにより、設計上、ハルシネーションと型エラーが排除される。

性能とコストのベンチマーク

Jevの応答時間は70〜500ミリ秒であるのに対し、最先端のLLMでは3〜329秒を要する。入力トークンの価格は100万トークンあたり0.042ドル(10億トークンあたり42ドル)で、出力は無料である。TypeSafeは、同等の知能と比較して20〜200倍高速で40〜400倍安価であると主張している。これらの数値は、GPT-6 AstraとFable 5.1をリファレンスとして用いたWorkflow Evalsに基づくものであり、極端な高速化(193倍、444倍)は最良のシナリオを表している。

アーキテクチャ:並列サンプリングによるトークン生成の排除

Jevは自己回帰的なトークン生成の代わりに並列サンプリングを採用している。すべての出力は一括して計算され、これはTransformerがRNNを置き換えたのと同様のアプローチである。これにより、大幅に高速な推論が可能となる。一方のトレードオフとして、Jevはテキストを生成することができず、信頼度スコア付きの事前定義された構造化意思決定のみを出力する。型エラーの発生率は数学的にゼロである。

ユースケース:ソフトウェアのためのスマートなif文

Jevは、分類、ルーティング、スコアリング、抽出、分岐、ガードレールといった、AIの判断をコードに組み込む用途のために設計されている。ルールエンジンでは脆すぎ、LLMでは遅すぎ・高すぎるといった場面で、「インテリジェントなif文」として機能する。応用例には、カスタマーサポートのチケット振り分け、大規模データ処理、リアルタイムレコメンデーション、LLM出力の検証などが挙げられる。TypeSafeは、Jevが秒間10回の呼び出し(1時間あたり7ドル)でDOOMのAIを制御する様子や、ウィキレーシングをプレイする様子を実演した。

価格設定とビジネスロジック:ジェボンズのパラドックス

「Jev」という名前は、ウィリアム・スタンリー・ジェボンズと「ジェボンズのパラドックス」(効率が向上するほど総消費量が増加するという逆説)に由来する。TypeSafeは、AIによる意思決定を極めて安価にすることで利用が爆発的に拡大するという見立てだ。出力トークンは無料(「計量するには安すぎる」)となっている。同社は収益性を確保していると主張し、さらなる値下げを計画している。同社はデータや計算資源のスケーリングよりも、タスクの選定に重点を置いている。

チャットモデルの代替ではない

Jevはエンドユーザー向けの製品ではなく、開発者がシステムアーキテクチャに組み込むためのコンポーネントである。「AIによる表現」ではなく「AIによる判断」が必要とされる課題を解決する。ミリ秒単位の応答、構造化出力、ハルシネーションなしを必要とするタスクを処理することで、ChatGPTやClaudeを補完する役割を果たす。TypeSafeはこのカテゴリを、カーネマンの「速い思考」を担うシステムにちなんで「システム1」モデルと呼んでいる。

Source posts