TypeSafe AI 推出 Jev:一种非文本决策模型

由 ChatGPT 发明者 Diogo Almeida 联合创立的 TypeSafe AI 发布了 Jev,这是一种不生成文本的系统一决策模型。Jev 的响应时间为 70-500 毫秒,每百万输入令牌成本为 0.042 美元(输出免费),专为分类、路由和提取任务设计。它采用 RLCD 训练方法消除幻觉,并提供校准概率。
Key insights
Jev 的关键规格与性能
Jev 的响应时间为 70-500 毫秒,而前沿大语言模型则需要 3-329 秒。输入令牌价格为每百万令牌 0.042 美元,输出免费。TypeSafe 声称,基于使用 GPT-6 Astra 和 Fable 5.1 作为参考的工作流评估,Jev 比同等智能的大语言模型快 20-200 倍,成本低 40-400 倍。它采用并行采样而非顺序令牌生成,从而实现速度优势。
技术基础:RLCD 与无幻觉
Jev 采用 RLCD(用于校准决策的强化学习)进行训练,这种方法避免了 RLHF 中引发幻觉的激励。该模型无法生成自由文本;其输出结构是预定义的,使得类型错误在数学上不可能发生。每个输出都包含一个认知上诚实的概率分数。这种架构直接解决了标准大语言模型中的过度自信和幻觉问题。
用例:软件的智能 if 语句
Jev 针对需要智能判断但无需文本生成的场景:分类、评分、路由、提取、护栏。例如,客服工单路由、大规模文档处理(每十亿令牌输入成本 42 美元)、实时应用如游戏 AI(DOOM 演示约每秒 10 次调用,每小时约 7 美元),以及作为检查大语言模型输出安全性和格式合规性的护栏。它明确不是聊天模型的替代品。
创始人的愿景与杰文斯悖论
Jev 的名称源自杰文斯悖论:随着效率提升,总消耗量增加。TypeSafe 首席执行官 Diogo Almeida 认为,将 AI 决策成本降至接近零将导致使用量激增。他将 Jev 定位为“智能体时代”的继任者,在该时代中,基于 RLHF 的模型在可靠性方面存在困难。该公司已实现盈利,并计划继续降价,押注于规模增长。
可用性与集成
Jev 目前处于早期访问阶段;开发者可以加入等待列表。其 API 不基于消息流,而是基于结构化程序状态到类型化决策。它旨在作为系统架构中的组件嵌入,充当规则引擎难以处理的模糊标准的“智能 if 语句”。