TypeSafe AI 推出非文本决策模型 Jev

ChatGPT 共同发明人 Diogo Almeida 创立的 TypeSafe AI 发布了 Jev,这是一种无文本模型,能够返回带有校准置信度的类型安全决策。Jev 响应时间为 70-500 毫秒,每百万输入令牌成本为 0.042 美元,针对路由、分类和护栏等大语言模型(LLM)速度过慢的场景。
Key insights
Jev 作为首个“System One”模型亮相,用于软件内部决策
TypeSafe AI 由 Diogo Almeida 创立——他曾在 OpenAI 参与 InstructGPT 和 RLHF 工作,并合著了 ChatGPT 和 GPT-4 论文——推出了其称为“System One 模型”的新模型类别,该名称源自卡尼曼的快速、自动认知理论,Jev 是首个模型。Jev 完全放弃文本生成:输入非结构化数据,输出类型安全的结构化结果,每个结果都带有校准的置信度分数。它被定位为用于分类、评分、路由、提取、分支和护栏的“智能 if 语句”,适用于手写规则过于脆弱、LLM 过于缓慢、昂贵或不可靠的任务。Jev 现已开放早期访问候补名单。
速度和价格声明附带自身认可的基准测试前提条件
Jev 的响应时间为 70-500 毫秒,而前沿 LLM 为 3-329 秒,TypeSafe 声称其比同等智能的大模型快 20-200 倍且便宜 40-400 倍。输入令牌成本为每百万 0.042 美元(约每十亿 42 美元),输出令牌免费。这些数据来自 TypeSafe 自身的“工作流评估”,该评估以 GPT-6 Astra 和 Anthropic 的 Fable 5.1 的平均值作为参考答案。该公司承认,该方法本身对 OpenAI 和 Anthropic 模型有利,可能低估了 Jev 的相对性能,并且 193 倍和 444 倍等极端倍数是最佳情况下的结果,不代表所有场景。
并行采样架构从根本上消除了幻觉
速度源于架构:LLM 逐个生成令牌,而 Jev 采用并行采样,所有输出一次性计算完成——这种并行优于串行的逻辑正是让 Transformer 取代 RNN 的原因。代价是 Jev 完全无法生成文本。它仅输出预定义的决策结构,每个答案都带有如“60% 确信”的置信度标签。由于输出结构在架构层面受到约束,类型错误在数学上不可能发生,公司声称因此不存在幻觉:Jev 缺乏编造悦耳字符串的能力,只能表达其置信度。
RLCD 理论:取悦人类是幻觉的根源
在发布前一个月的“Jev 创造者:为何 RLCD 优于 RLHF”主题演讲中,Almeida 认为奖励模型存在类似 GAN 的不对称性:模型缺乏信心容易被检测并受到惩罚,因此模型学会放弃不确定模式并伪造信心,使幻觉成为偏好优化的固有产物。Jev 的答案是 RLCD(强化学习校准决策),且从不生成自由文本。该演讲的核心产品逻辑是:“如果一个模型在 95% 的时间里正确,并且能告诉你它何时处于那 5% 的错误区间,那么这项任务就可以自动化。”开发者设置阈值,高置信度决策自动执行,低置信度决策逐级上报,将“人在回路中”从强制纠错转变为可选开关。
API 围绕结构化程序状态重新设计,而非消息流
该演讲明确将 Jev 定位于当前编码助手时代之外,认为 Claude Code 仍属于基于 RLHF 构建的辅助时代,而纯 RLVR 系统将截然不同。Jev 更进一步,重构了 API 本身的形式:输入结构化程序状态,输出类型化决策,取代了消息流。演讲还指出了优化拉锯战:智能体能力越强就越不服从,而越服从则越弱;在 Jev 的框架中,这种张力不存在,因为它从未被优化以遵循人类指令。
定价和命名押注杰文斯悖论驱动的需求爆发
Jev 以威廉·斯坦利·杰文斯命名:当蒸汽机效率提高时,总煤炭消耗不减反增。TypeSafe 将同样的经济学应用于智能——每次决策成本每下降一个数量级,就会扩大消费它的用例群体,这与演讲中“这些任务足够简单,可以近乎零成本重复运行”的表述一致。该公司将 Sutton 的“苦涩教训”修正为“任务选择比数据或计算更重要”,并在博客“最苦涩的教训”中呼应,输出令牌免费定价是因为“便宜到不值得收费”,声称已盈利,并宣称其使命是“人工智能需要一个软件可以依赖的接口”。
演示与四个用例家族瞄准延迟关键的判断任务
发布材料展示 Jev 控制 DOOM 机器人,每秒约 10 次查询,成本约每小时 7 美元;并在 Wikiracing 任务(通过链接从一篇文章跳转到目标)中,在步数和速度上均优于非推理模式的 LLM。这些帖子将应用分为四类:智能工作流分支,如毫秒级对支持工单按团队、紧急程度和情绪进行分类;批量文档分类、标记和提取,定价适用于数亿条记录;实时应用,包括推荐、动态定价和游戏 AI,延迟为 100 毫秒;以及 LLM 护栏,利用 Jev 的速度和非幻觉设计检查输出的安全性、格式和越狱行为。