XNews

TypeSafe AI 推出 Jev:一款快速决策的“系统一”模型

TypeSafe AI 推出 Jev:一款快速决策的“系统一”模型

由 ChatGPT 联合发明者创立的 TypeSafe AI 发布了 Jev,这是一种被称为“系统一”的新型 AI 模型。Jev 放弃了文本生成,转而采用结构化、校准的决策方式,响应时间仅为 70-500 毫秒,且在分类和路由任务上成本远低于传统大语言模型。

Key insights

面向决策的新型模型类别

Jev 是一款专为快速、结构化决策而非文本生成而设计的“系统一”模型。它输出类型安全、经过校准的结果,并附带置信度分数,适用于分类、路由、评分和提取等任务。其架构采用并行采样而非自回归令牌生成,实现了 70-500 毫秒的响应时间,速度比前沿大语言模型快 20-200 倍,成本低 40-400 倍。

采用 RLCD 训练以避免幻觉

Jev 使用由 TypeSafe 首席执行官、ChatGPT 联合发明者 Diogo Almeida 开发的“校准决策强化学习”(RLCD)方法进行训练。RLCD 避免了 RLHF 的缺陷——创始人认为 RLHF 会激励模型假装自信。由于 Jev 不生成自由文本,因此不会产生幻觉。每个输出都是一个结构化的决策,并带有认识论上诚实的概率。

专为开发者设计的“智能 if 语句”

Jev 被定位为供开发者嵌入系统架构的组件,而非面向消费者的产品。它充当一种“智能 if 语句”,适用于规则引擎过于僵化、大语言模型过于缓慢或昂贵的任务。用例包括工作流中的智能分支、大规模数据处理、实时应用,以及作为其他大语言模型的护栏或质量检查器。

Source posts