XNews

TypeSafe AI、高速な意思決定を行う「System One」モデルJevを発表

TypeSafe AI、高速な意思決定を行う「System One」モデルJevを発表

ChatGPTの共同発明者によって設立されたTypeSafe AIは、「System One」と呼ばれる新しいカテゴリーのAIモデルJevを発表した。Jevはテキスト生成をやめ、構造化された較正済みの意思決定に特化し、70〜500ミリ秒の応答時間を実現、分類・ルーティングタスクにおいて従来のLLMよりも大幅に低コストである。

Key insights

意思決定のための新しいモデルカテゴリー

Jevは、テキスト生成ではなく、高速で構造化された意思決定のために設計された「System One」モデルです。型安全で較正された結果を信頼スコアとともに出力するため、分類、ルーティング、スコアリング、抽出タスクに適しています。そのアーキテクチャは、自己回帰的なトークン生成の代わりに並列サンプリングを採用しており、70〜500ミリ秒の応答時間を実現し、最先端のLLMより20〜200倍高速で、40〜400倍低コストです。

幻覚を防ぐためRLCDでトレーニング

Jevは、ChatGPTの共同発明者であるTypeSafeのCEO、Diogo Almeida氏が開発した手法であるRLCD(較正された意思決定のための強化学習)を使用してトレーニングされています。RLCDは、創業者がモデルに偽りの自信を持たせる原因だと主張するRLHFの落とし穴を回避します。Jevは自由なテキストを生成しないため、幻覚を起こすことはありません。すべての出力は、認識論的に正直な確率を伴う構造化された意思決定です。

開発者向けの「インテリジェントなif文」として設計

Jevは、消費者向け製品ではなく、開発者がシステムアーキテクチャに組み込むためのコンポーネントとして位置づけられています。ルールエンジンでは脆すぎ、LLMでは遅すぎる、またはコストがかかりすぎるタスクに対して、「インテリジェントなif文」として機能します。ユースケースには、ワークフローにおけるスマートな分岐、大規模データ処理、リアルタイムアプリケーション、他のLLMのガードレールや品質チェッカーとしての役割が含まれます。

Source posts