TypeSafe AI 推出用于快速决策的“系统一”模型 Jev
由 ChatGPT 联合发明人 Diogo Almeida 创立的 TypeSafe AI 推出了 Jev,这是一种名为“系统一”的新型 AI 模型。Jev 放弃文本生成,专注于代码中的快速、校准决策,响应时间为 70-500 毫秒,成本比前沿大语言模型低 20 到 200 倍。
Key insights
模型设计与训练
Jev 是一种“系统一”模型,专为快速、直观的决策而设计,灵感来自丹尼尔·卡尼曼的思考。它采用一种名为 RLCD(用于校准决策的强化学习)的新训练方法。与大语言模型不同,Jev 输出带有校准概率的结构化结果,而非文本。它无法生成文本,但通过架构输出类型安全的结构化结果,且零类型错误。
性能与成本
Jev 的响应时间为 70-500 毫秒,比前沿大语言模型快 20 到 200 倍。输入令牌价格为每百万令牌 0.042 美元,输出免费。它采用并行采样而非顺序令牌生成。该公司声称其成本比同等智能模型低 40 到 400 倍,但极端加速属于最佳情况。
使用场景与应用
Jev 专为代码中的“智能 if 语句”而设计:分类、评分、路由、提取。使用场景包括客户服务中的智能分支、大规模数据处理、实时应用(游戏 AI、动态定价),以及作为大语言模型输出的护栏。在 DOOM 演示中,每秒可调用约 10 次,成本约每小时 7 美元。
与大语言模型的比较
Jev 并非 ChatGPT 或 Claude 等对话模型的替代品。它填补了在需要毫秒级响应和结构化输出的代码中嵌入 AI 判断的空白。该模型的架构消除了幻觉并确保类型安全。目前通过候补名单提供早期访问。