XNews

代理与记忆架构:技能、计划模式、反思、泰坦

代理与记忆架构:技能、计划模式、反思、泰坦

新的代理和记忆架构强调模块化技能、优先计划的IDE模式、反思性记忆和长期回忆。

Key insights

技能取代代理设计中的盲目工具搜索

作者们认为,'工具搜索'模式——将许多功能定义直接放入提示中——在规模上无法有效运作。提出的替代方案是'技能'范式,它将工具与使用指导、提示和最佳实践打包,并通过分类器或路由器按需加载。技能减少了上下文膨胀,提高了可靠性,并提供了原始API签名所缺乏的隐式'如何/何时'使用知识。倡导的流程使用意图分类来选择并注入仅少量相关技能到模型上下文中,从而提高执行的可靠性和可扩展性。

AI IDE中的计划模式将规划与执行分离

阿尔敏·罗纳赫和其他人将'计划模式'描述为一种AI IDE模式,其中模型首先生成详细的实施计划——需要读取/修改的文件、步骤和所需上下文——然后再进行编辑。原生计划模式与IDE紧密集成,支持授权步骤执行,并允许状态回滚和用户对步骤的预先批准。这种解耦减少了逻辑错误,保持了跨会话的意图,并将人类角色从微观管理编辑转变为架构审查。

Hindsight提出具有反思和更新能力的结构化记忆

Hindsight是一种开放的记忆架构,将记忆组织为四个网络——世界事实、代理经验、实体摘要和不断演变的信念——并实现三种操作:保留、回忆和反思。反思积极地对记忆进行推理,以更新信念和纠正错误。论文和开源项目表明,Hindsight在LongMemEval和类似任务上显著提高了长期代理性能,通过结构化记忆和主动修订减少了幻觉。

Titans架构实现类人记忆动态

Titans研究的总结描述了一种三级记忆方法,结合了短期注意力、长期参数化记忆和持久任务记忆。Titans使用基于惊讶的保留、自适应遗忘和测试时记忆更新,在推理过程中学习。报告的结果包括在长上下文任务上的高准确率(例如,在16k标记的稻草堆任务中达到96%),以及在语言建模、时间序列和基因组学方面的强大表现,通常参数数量远少于竞争对手。

提示缓存通过重用KV状态降低成本和延迟

提示缓存被解释为缓存KV矩阵(而非原始文本),以避免重新计算注意力,从而在长上下文场景中实现高达约90%的标记成本降低和约85%的延迟降低。实现方式有所不同:OpenAI的自动路由产生可变的命中率(约50%),而Anthropic的显式缓存断点在结构化设置中产生稳定的命中率(约100%)。缓存的生命周期通常较短(5-10分钟),除非通过频繁请求进行刷新。

Source posts