XNews

TypeSafe AI、意思決定専用の高速AIモデル「Jev」を発表

TypeSafe AI、意思決定専用の高速AIモデル「Jev」を発表

ChatGPTの共同発明者であるDiogo Almeida氏が共同設立したTypeSafe AIは、新たなAIモデルカテゴリー「System Oneモデル」となるJevを発表しました。Jevはテキストを生成せず、校正された確率を伴う構造化された意思決定のみを出力します。応答時間は70~500ミリ秒、入力トークン価格は100万トークンあたり0.042ドル、出力トークンは無料です。ソフトウェアパイプラインにおける「スマートif-else」機能向けに設計されており、DOOMボットの制御やWikipediaレースの実演が行われています。

Key insights

テキスト生成を排除し、設計上ハルシネーションを防止

Jevは自由形式のテキストを生成せず、事前に定義された型と値を持つ構造化された意思決定出力のみを行います。これにより型エラーが数学的に不可能となり、ハルシネーションを排除します。各出力には、認識論的に正直な信頼度スコアが付与されます。Diogo Almeida氏は、RLHFは人間を喜ばせるようにモデルを訓練するため、過信や捏造された回答につながると主張しました。Jevのトレーニングでは、RLCD(Reinforcement Learning for Calibrated Decisions)と呼ばれる新しい手法が採用されており、GANのようなダイナミクスを引き起こす報酬モデルの非対称性を回避しています。

従来のLLMに対するパフォーマンスとコストの優位性

Jevの応答時間は70~500ミリ秒で、主要なLLMの3~329秒と比較されます。入力トークン価格は100万トークンあたり0.042ドル(1億トークンあたり約42ドル)で、出力トークンは無料です。同社の公式発表によると、同等の知能レベルにおいて、GPT-6 AstraおよびFable 5.1を基準としたWorkflow Evalsに基づき、20~200倍の高速化と40~400倍の低コスト化を実現しています。これらの極端な倍率は最良のシナリオを表しています。この速度は、自己回帰生成とは異なり、すべての出力が一度に計算される並列サンプリングに由来します。

ユースケース:ソフトウェアパイプラインのスマートif-else

Jevは、テキスト出力を伴わないスマートな判断が必要とされるシナリオ向けに位置づけられています。カスタマーサービスにおけるインテリジェントな分岐(トリアージ、緊急性、感情分析)、大規模データ処理(分類、タグ付け、数百万件のレコードからのフィールド抽出)、リアルタイムアプリケーション(レコメンデーション、動的価格設定、ゲームAI)、そしてLLM出力のガードレール(安全性、フォーマット、ジェイルブレイク検出)などです。DOOMデモでは、毎秒約10クエリを処理し、コストは1時間あたり約7ドルです。Wikipediaレースでは、経路探索ステップの効率性を示しています。

価格設定の哲学:気にならないほど安価に

TypeSafeの価格戦略は、ジェヴォンズのパラドックスに基づいています。すなわち、意思決定あたりのコストが下がると、総消費量が爆発的に増加するというものです。出力トークンは「計測するには安すぎる」ため無料です。同社はすでに黒字化しており、さらなる価格引き下げを計画していると主張しています。同社は、知能の単位あたりの価格競争ではなく、同じ知能を限界費用ゼロに近い形で再利用できるタスク領域を拡大することに賭けています。

制限事項:汎用的な推論や会話は不可

JevはChatGPTやClaudeの代替品ではありません。テキストの生成、質問への回答、会話を行うことはできません。その出力は、事前に定義されたフィールドと値によって厳密に構造化されています。このモデルは、ユーザー向けのチャットではなく、コードフロー内での迅速な自動意思決定のために設計されています。開発者は事前に出力スキーマを定義する必要があります。

Source posts