TypeSafe AI 发布 Jev:快速结构化决策模型

由 ChatGPT 联合发明人创立的 TypeSafe AI 发布了 Jev,这是一种 System One 模型,能够输出带有校准概率的结构化决策,速度比 LLM 快 20-200 倍。Cognition 开源了与 Jev 兼容的模型 Kev,在分布外数据上达到了 79.6% 的准确率。
Key insights
Jev 设计:无自由文本,无幻觉
Jev 不生成自由文本,输出是预定义的结构,并在架构上强制类型安全,使得类型错误在数学上不可能发生。每个输出都包含一个认识论上诚实的概率。这避免了 RLHF 中固有的幻觉问题,即模型学会了假装自信。Jev 使用 RLCD(用于校准决策的强化学习)进行训练。
性能与成本数据
Jev 的响应时间为 70-500 毫秒,而前沿 LLM 为 3-329 秒。输入成本为每百万 token 0.042 美元,输出免费。TypeSafe 声称速度快 20-200 倍,成本低 40-400 倍。速度源于并行采样而非顺序 token 生成。评估可能低估 Jev,因为参考模型是 GPT-6 和 Fable 5.1;极端倍数(193 倍、444 倍)是最佳情况。
用例:智能 if 语句与智能体防护
Jev 旨在作为结构化决策节点嵌入代码中,用于分类、路由、评分、提取、防护。示例:DOOM 游戏 AI(每小时 7 美元)、维基百科竞速、通过 Manus 进行游戏渲染。它在三层架构中补充 LLM:LLM 负责开放式工作,Jev 负责模糊语义决策,确定性代码负责安全边界。
开源 Kev 模型
Cognition 发布了 Kev,这是一个类似 Jev 的模型,基于 Qwen3 + LoRA + 指针头,提供三种尺寸(0.6B/4B/8B)。Kev-8B 在分布外数据上达到 79.6% 的准确率,而 Jev 为 85.7%。它可在消费级硬件上运行(4B 模型在 32GB Mac 上约 300 毫秒)。训练成本极低(8B 模型在一台 H100 上 83 分钟)。与 Jev API 完全兼容。
杰文斯悖论与定价策略
Jev 的名字引用了威廉·斯坦利·杰文斯悖论:效率提升会增加总消费量。TypeSafe 押注于将决策成本降至接近零将推动大规模使用增长。输出 token 免费,公司已实现盈利并计划进一步降价。《最苦涩的教训》博客认为任务选择比数据和计算更重要。