XNews

TypeSafe AI 推出 Jev,一款快速校准的决策模型

TypeSafe AI 推出 Jev,一款快速校准的决策模型

TypeSafe AI 发布了 Jev,这是一种用于结构化决策的新型“系统一”模型,响应时间在 70-500 毫秒之间,且输出令牌免费。它输出类型安全的结果,并带有校准概率,通过不生成自由文本避免产生幻觉。其应用包括路由、分类和护栏。

Key insights

新颖架构:并行采样,无令牌生成

Jev 与 LLM 的不同之处在于,它使用并行采样而非自回归文本生成。所有输出一次性计算完成,提供快速且可扩展的决策。它不生成自由文本,只输出预定义的结构化结果及置信度分数。类型错误率在数学上为零。

性能:70-500 毫秒,比前沿 LLM 快 20-200 倍

对于类似的决策任务,Jev 的响应时间为 70-500 毫秒,而前沿 LLM 为 3-329 秒。输入令牌价格为每百万令牌 0.042 美元,输出令牌免费。TypeSafe 声称,与同等智能的 LLM 相比,其速度快 20-200 倍,成本低 40-400 倍。这些数字来自使用 GPT-6 Astra 和 Fable 5.1 作为参考的工作流评估。

应用场景:智能 If 语句、护栏、决策节点

Jev 专为开发者需要 AI 判断但不需要人类可读文本的任务而设计:分类、路由、风险门控、提取、评分。它可以作为护栏,检查 LLM 输出的安全性和格式合规性。其类型安全性使其在生产系统中可靠。

经济模式:杰文斯悖论——廉价决策驱动更多使用

Jev 这个名字参考了杰文斯悖论:效率提高导致总消费量增加。TypeSafe 押注,让 AI 决策变得廉价而快速将带来使用量的爆炸式增长。他们只对输入令牌收费,并计划继续降低价格。

Cognition 团队发布开源替代方案 Kev

在 Jev 发布后几天内,Cognition 的 Jared Palmer 开源了 Kev,这是一种类似的决策模型,基于 Qwen3,带有 LoRa 适配器和指针头。Kev 有 0.6B、4B、8B 三种规模。Kev-8B 在分布外数据上的准确率达到 79.6%,而 Jev 为 85.7%。Kev 与 Jev 的 API 兼容。

AI 应用的新型三层架构

推荐的架构包括:LLM 层用于开放式工作,Jev 层用于模糊但有界的语义决策(路由、风险门控、完成度确定),以及确定性代码层用于硬约束(文件权限、支出上限)。这有效地实现了关注点分离。

Manus 团队使用 Jev 在 3D 渲染游戏中控制浏览器。另一个演示展示了 Jev 为网页中的语义 Ctrl+F 提供支持,以及一个用于语义查询(如“查找可以远程工作的人”)的 PostgreSQL 扩展。此外,还用于分析用户操作日志以识别错误并生成拉取请求。

Source posts