TypeSafe AI 推出 Jev「系统1」决策模型

由 ChatGPT 联合发明人 Diogo Almeida 创立的 TypeSafe AI 推出「系统1」模型系列,首发模型 Jev 输出类型安全的结构化决策而非文本。Jev 响应时间为 70 至 500 毫秒,宣称速度提升 20 至 200 倍、成本优势达 40 至 400 倍;输入价格为每百万 token 0.042 美元。目前可通过候补名单申请抢先体验。
Key insights
面向代码内决策的全新模型类别
TypeSafe AI 由 ChatGPT 联合发明人 Diogo Almeida 创立,他曾是 InstructGPT、ChatGPT 和 GPT-4 论文的共同作者,并在 OpenAI 从事过 RLHF(基于人类反馈的强化学习)研究。该公司以首款模型 Jev 正式推出「系统1」模型类别。Jev 完全放弃文本生成,专为软件内部的快速决策而设计:它接收非结构化输入,并返回带有校准概率评分的类型安全结构化结果。该公司将其定位为一种智能 if 语句,适用于分类、路由、打分、抽取、分支和护栏等任务——在这些场景中,手写规则过于脆弱,而大型语言模型又太慢、成本太高或行为难以预测。
宣称达两个数量级的速度与成本优势
Jev 的响应时间为 70 至 500 毫秒,比前沿模型 3 至 329 秒的响应速度快一到两个数量级。TypeSafe 宣称,在同等智能水平下,Jev 速度提升 20 至 200 倍,成本降低 40 至 400 倍。其输入价格为每百万 token 0.042 美元(约合每十亿 token 42 美元),输出 token 免费。速度优势源于并行采样,即一次性计算所有输出,而非串行生成 token——该公司将这一架构转变类比为 Transformer 取代 RNN。TypeSafe 承认,其 Workflow Evals(工作流评测)以 GPT-6 Astra 和 Fable 5.1 的平均值为基准,结果对这些模型有利;193 倍和 444 倍等极端倍数仅代表最佳情况。
RLCD 训练从架构上消除幻觉
Almeida 离开 OpenAI 后,历时两年、采用一种名为 RLCD(面向校准决策的强化学习)的新训练方法打造了 Jev。他在主题演讲中指出,RLHF 教会模型取悦人类,而奖励模型造成了一种类似 GAN 的不对称性:模型的不确定性会受到惩罚,因此模型学会抛弃不确定的模式并伪造置信度,使幻觉成为偏好优化的内在产物。Jev 通过从不生成自由文本回避了这一问题:输出的结构和取值均为预先定义,类型错误在数学上不可能发生,且每个输出都带有认识论上诚实的概率,从而支持设置置信度阈值——高置信度结果可自动执行,低置信度结果则升级交由人工处理。
面向开发者的可嵌入组件定位
TypeSafe 将 Jev 定位为面向开发者的组件而非消费级产品,旨在满足对 AI 判断力(而非 AI 表达力)的需求。其宣称的应用场景包括:工作流中的智能分支,如工单分流、紧急度评分和情感分类;大规模文档分类、打标签和字段抽取,规模可达数百万乃至数十亿条记录;100 毫秒延迟预算内的实时应用,如推荐、动态定价、游戏 AI 和交互式产品;以及对大模型输出进行护栏检查,涵盖安全性、格式合规性和越狱检测。Jev 目前通过候补名单开放抢先体验。
演示瞄准受延迟约束的 AI 工作负载
两场演示展示了其设计目标。一个由 Jev 驱动的机器人以每秒约 10 次调用、每小时约 7 美元的成本实时游玩经典游戏《DOOM》,这种调用频率是前沿模型无法维持的;在一项需要逐链接导航的维基百科竞速任务中,Jev 在步数和速度上均领先大模型的非推理模式。「系统1」之名源自卡尼曼提出的快速、直觉式思维模式,而 Jev 则取自杰文斯悖论,押注将单次 AI 决策成本降低数个数量级,将带来更大幅度的总使用量增长。
主题演讲中的经济学押注近乎免费的重用
发布会主题演讲阐明了 Jev 独特定价背后的产品逻辑。TypeSafe 认为,任务选择比数据或算力更为重要;预训练所得的智能可以被引导至校准决策,而无需重新构建;同时,尽管 AI 正在自动化软件编写,软件本身自 2019 年以来并未发生变化。输出 token 因过于廉价而不计费;该公司表示其已实现盈利,并计划进一步降价;其宣称的使命是打造一个软件可以信赖的接口。基于杰文斯悖论的框架认为,单次决策成本每下降一个数量级,可行用例的数量将成倍增长。