Jev:TypeSafe 的 AI,用于快速、结构化的“智能如果”决策
Jev 是 TypeSafe 推出的一款 AI 系统,专为快速、结构化的“智能如果”决策设计。它采用并行采样而非顺序生成,推理速度极快,并通过 RLCD 训练方法确保可靠性。Jev 仅输出结构化结果,避免类型错误和幻觉,响应时间在 70-500 毫秒之间,成本远低于传统大语言模型,适用于工作流分支、大规模数据处理、实时应用及 LLM 输出安全校验等场景。
Key insights
架构与训练方法
Jev 采用并行采样而非顺序令牌生成,实现极速推理。它使用 RLCD(校准决策强化学习)训练,创始人称该方法比 RLHF 更可靠,适合自动化场景。模型仅输出结构化结果而非文本,确保零类型错误并消除幻觉。
速度与成本优势
Jev 响应时间为 70-500 毫秒,比前沿大语言模型(需 3-329 秒)快 20-200 倍。输入令牌成本为每百万令牌 0.042 美元,输出令牌免费,比同等智能的 LLM 便宜 40-400 倍。官方基准测试使用 GPT-6 Astra 和 Antropic Fable 5.1 作为参考。
“智能如果”决策的应用场景
Jev 专为需要 AI 决策但无需文本生成的任务设计:工作流中的智能分支(如客户工单路由)、大规模数据处理(以低成本分类数百万文档)、实时应用(游戏 AI、动态定价),以及作为 LLM 输出的安全护栏,检查格式或安全性。每个决策附带置信度评分。