XNews

TypeSafe AI 推出“系统一”决策模型 Jev

TypeSafe AI 推出“系统一”决策模型 Jev

由 ChatGPT 联合发明人 Diogo Almeida 创立的 TypeSafe AI 发布了 Jev——一款专为快速、结构化决策而设计的全新品类 AI 模型。Jev 不生成文本,而是为分类、路由和评分任务输出经过校准的概率,响应时间为 70-500 毫秒,输入 token 价格为每百万 0.042 美元,输出 token 免费。

Key insights

产品概述与关键规格

Jev 是一款“系统一”(System One)模型,接收非结构化数据输入,输出带有校准概率的类型安全(type-safe)结构化结果。它不生成自由文本,从而消除了幻觉。其响应时间为 70-500 毫秒,比前沿大语言模型快 20 至 200 倍。输入 token 价格为每百万 0.042 美元(约合每十亿 42 美元),输出 token 免费。该模型采用并行采样,而非自回归生成。

训练方法:RLCD

Jev 采用 RLCD(校准决策强化学习)进行训练,这是由 TypeSafe 首席执行官 Diogo Almeida 开发的一种新方法。他认为,RLHF 通过奖励听起来自信但实际错误的输出,导致模型产生幻觉。RLCD 通过不生成自由文本避免了这一问题:其输出为预定义结构,并附带诚实的概率估计,模型永远无需“编造”答案。

应用场景:智能 if 语句

Jev 旨在将 AI 决策嵌入软件之中,涵盖分类、路由、评分、信息提取和护栏等任务。在客户工单路由、大规模文档分类、实时推荐以及大语言模型输出验证等工作流中,它可取代脆弱的规则引擎或昂贵的大语言模型调用。该公司将其称为“智能 if 语句”。

演示:DOOM 与维基百科竞速

TypeSafe 展示了 Jev 以每秒约 10 次查询、每小时约 7 美元的成本控制一款 DOOM 游戏 AI 机器人,以及参与维基百科竞速(通过链接从一个条目导航至另一个条目)的表现。在这两项演示中,Jev 在速度和步数上均优于非推理类大语言模型,证明了其适用于实时、高频决策任务。

哲学与经济学依据

“Jev”这一名称呼应了杰文斯悖论(Jevons Paradox):随着决策成本下降,总使用量将随之上升。TypeSafe 押注,只要让 AI 决策足够便宜,就将解锁大量全新用例。首席执行官 Diogo Almeida 在题为“为什么 RLCD 胜过 RLHF”的演讲中阐述了其中的逻辑:校准决策能力使得模型正确率达 95% 的任务得以自动化,并且模型能够在自己处于那 5% 错误区间时发出信号。

对编程智能体设计的批评

TypeSafe 首席执行官 Diogo Almeida 发表了对当前编程智能体(coding agent)的详细批评,指出许多设计选择不过是为绕开 KV 缓存限制和 token 定价问题而采取的变通方案。他提出了一种“以类型安全(TypeSafe)为中心”的设计,采用显式状态与查询感知的动态上下文重建,从而支持成本感知路由、子智能体及高效的工具使用。这一构想构成了 Jev 架构的基础。

可用性与定价

Jev 目前处于抢先体验阶段,开发者可在 TypeSafe 官网加入等候名单。该公司声称其已实现盈利,并计划进一步降价。输出 token 免费,输入定价与前沿大语言模型相比极为低廉。

Source posts