XNews

TypeSafe AI 推出 Jev:仅输出决策的快速AI模型

TypeSafe AI 推出 Jev:仅输出决策的快速AI模型

TypeSafe AI 由ChatGPT共同发明人Diogo Almeida联合创立,发布了名为Jev的新型AI模型类别——System One模型。Jev仅输出带有校准概率的结构化决策,不生成文本。其响应时间为70-500毫秒,输入令牌价格为每百万个0.042美元,输出令牌免费。该模型专为软件流水线中的“智能if-else”功能设计,已在控制DOOM游戏机器人及玩维基百科竞速游戏中得到展示。

Key insights

无文本生成从根本上消除幻觉

Jev从不生成自由形式的文本,仅输出预定义类型和值的结构化决策。这使得类型错误在数学上不可能发生,并消除了幻觉。每个输出都附带一个认识论上诚实的置信度分数。Diogo Almeida认为,RLHF训练模型取悦人类,导致过度自信和编造答案。Jev的训练采用一种名为RLCD(用于校准决策的强化学习)的新方法,避免了奖励模型因类似GAN的动态而产生的不对称性。

相比传统LLM的性能与成本优势

Jev的响应时间为70-500毫秒,而领先的LLM为3-329秒。输入令牌价格为每百万个0.042美元(约每十亿个42美元),输出令牌免费。官方声称,在同等智能水平下,Jev的速度快20-200倍,成本低40-400倍,该数据基于以GPT-6 Astra和Fable 5.1为参考的工作流评估。极端倍数代表最佳情况。速度优势源于并行采样:所有输出一次性计算完成,而非自回归生成。

应用场景:软件流水线中的智能if-else

Jev定位于需要智能判断但无需文本输出的场景:客户服务中的智能分流(分类、紧急程度、情感分析)、海量数据处理(对百万条记录进行分类、标记、字段提取)、实时应用(推荐、动态定价、游戏AI),以及LLM输出的护栏(安全、格式、越狱检测)。DOOM演示以每秒约10次查询运行,成本约7美元/小时。维基百科竞速展示了路径查找步骤的效率。

定价理念:便宜到可以忽略不计

TypeSafe的定价策略基于杰文斯悖论:随着每次决策成本下降,总消耗量激增。输出令牌免费是因为它们“便宜到无法计量”。该公司声称已实现盈利,并计划进一步降价。他们押注的不是单位智能的价格战,而是扩展任务空间,使相同的智能能以接近零的边际成本重复使用。

局限性:不具备通用推理或对话能力

Jev并非ChatGPT或Claude的替代品。它无法生成文本、回答问题或进行对话。其输出严格结构化,带有预定义字段和值。该模型专为代码流程中的快速自动化决策而设计,不面向用户聊天。开发者必须预先定义输出模式。

Source posts