XNews

TypeSafe AI、超高速意思決定モデル「Jev」を発表

TypeSafe AI、超高速意思決定モデル「Jev」を発表

元OpenAI研究員のディオゴ・アルメイダ氏が設立したTypeSafe AIは、高速で構造化された意思決定のための初のSystem Oneモデル「Jev」を発表した。Jevは、型安全な結果と較正された確率を70~500ミリ秒で出力し、コストは入力100万トークンあたり0.042ドル、出力は無料。分類、ルーティング、ガードレールなど、コードに組み込まれる判断を対象としている。

Key insights

Jev:意思決定に特化した新たなAIカテゴリー

Jevは、ソフトウェアにおける高速かつ構造化された意思決定のみを目的として設計された、初の「System Oneモデル」です。LLMとは異なり、自由形式のテキストを生成せず、非構造化データを受け取って、較正された信頼スコア付きの型安全で構造化された結果を出力します。これにより幻覚(ハルシネーション)を排除し、出力構造が数学的に有効であることを保証します。Jevは、分類、ルーティング、スコアリング、抽出などのタスクにおける「インテリジェントなif文」として位置づけられています。

性能とコストの指標

Jevの応答時間は70~500ミリ秒で、主流の最先端LLMの3~329秒と比較して、20~200倍高速で、40~400倍安価です。価格は入力100万トークンあたり0.042ドルで、出力トークンは無料です。速度の優位性は、自己回帰生成ではなく並列サンプリングに由来します。TypeSafeは、これらの数値はGPT-6 AstraとAnthropic Fable 5.1を参照したワークフロー評価に基づいており、極端な値は楽観的かもしれないが、相対的な優位性は大きいと述べています。

RLCDとRLHF:幻覚を根本から回避する

ChatGPT論文とGPT-4論文の共著者である創業者のディオゴ・アルメイダ氏は、RLHFによってモデルが人間を喜ばせることを学習し、過信と幻覚を引き起こすと主張します。報酬モデルの非対称性が不確実性を罰するため、モデルは不確実性を抑制します。JevはRLCD(Reinforcement Learning for Calibrated Decisions:較正された意思決定のための強化学習)を使用しており、正直な確率を表現するようにモデルを訓練します。Jevは文字列を生成できないため、物理的に幻覚を起こすことはできず、信頼度を述べることしかできません。これはAIの意思決定における信頼モデルを根本から再設計するものです。

アーキテクチャ:高速化を実現する並列サンプリング

従来のLLMはトークンを1つずつ順番に生成します。Jevのアーキテクチャは並列サンプリングを採用し、すべての出力を1回のパスで計算します。これは、Transformerが並列処理を可能にすることでRNNに取って代わったのと似ています。トレードオフとしてテキスト生成はできませんが、意思決定タスクには構造化出力の方が有用です。この設計がJevのミリ秒単位のレイテンシと高スループットを支え、リアルタイムアプリケーションに適しています。

ユースケース:リアルタイムゲームからガードレールまで

Jevはコードに組み込まれるAI判断のために設計されています。実証例には、DOOMボットを毎秒10クエリで制御する(コストは1時間あたり約7ドル)ことや、Wikipediaのスピードランで勝利することが含まれます。一般的なユースケースには、カスタマーサポートのチケットルーティング、大規模な文書分類、リアルタイムレコメンデーション、動的価格設定、LLM出力の安全性ガードレールなどがあります。Jevは高速で低コスト、かつ構造が決定的であるため、AIが必要とされる場面で、脆いルールエンジンの代わりにソフトウェアパイプラインへそのまま組み込めるコンポーネントとして機能します。

創業者の経歴と動機

元OpenAI研究員であるディオゴ・アルメイダ氏は、ChatGPT論文とGPT-4論文の共著者であり、InstructGPTとRLHFにも関わっていました。同氏は、RLHFが人間を喜ばせることに注力するあまり、AIが自動化には信頼できないものになると結論づけ、OpenAIを離れてTypeSafe AIを設立しました。2年間のステルス開発を経て、同氏はJevとRLCDトレーニング手法を発表しました。同社は収益性を達成しており、ユニットマージンではなくボリューム成長に賭けて、さらなる価格引き下げを計画しています。

ジェボンズのパラドックス:名前の重要性

「Jev」という名前は、効率の向上が資源の総消費量を増加させるというジェボンズのパラドックスに由来します。TypeSafeは、AIによる意思決定のコストを大幅に削減することでユースケースが拡大し、AIの総消費量が増える可能性さえあると考えています。この哲学が価格戦略を支えています。出力トークンは「請求するには安すぎる」ため無料なのです。長期的な賭けは、意思決定インテリジェンスがあらゆるソフトウェアの判断を必要とする機能に組み込まれ、遍在するものになるというものです。

Source posts