代理基础设施:记忆、上下文压缩、检索与提示桥接

多个项目推动代理记忆、检索延迟、上下文压缩和提示可移植性,以实现可靠的长期运行代理。
Key insights
上下文压缩必须保留可操作的文档
对代理压缩策略的评估显示,极端压缩可能会丢失任务关键的低熵细节(文件路径、错误字符串)。工厂的锚定迭代摘要保持结构化的持久摘要(意图、文件更改、决策、下一步)在召回、文档跟踪和延续等探测指标上优于OpenAI的最高压缩方法和Anthropic的完整重新摘要方法。
索引构建针对代理的毫秒级检索
Index是一个动态的、毫秒级的检索系统,专为代理在个人知识库中的使用而设计。它使用Postgres与pgvector/pg_trgm,全球边缘运行时在Cloudflare上,采用分块摄取和变更哈希,并通过三级缓存失效机制实现P99 < 300ms,具备强大的过滤、混合语义/关键词排名和多租户动态数据的实时更新。
Memori提供SQL本地、可审计的持久记忆
Memori是一个开源的SQL本地记忆引擎,将代理记忆持久化到标准SQL数据库中,提取实体和记忆类型(事实、偏好、技能),并支持有意识/自动/组合模式,定期进行背景提炼。集成只需一行调用,旨在使记忆可审计并由用户拥有,而不是不透明的向量存储。
PromptBridge在不重新训练的情况下跨模型翻译提示
PromptBridge引入了一个零训练框架,将高性能提示从一个模型映射到另一个模型。它使用小规模配对样本集进行MAP-RPE反射技术校准,然后学习生成与目标模型兼容的提示,以应对未见任务,从而减少跨模型变化的提示工程手动成本。