人工智能代理的上下文工程最佳实践

多篇工程文章概述了人工智能代理和记忆系统的生产上下文策略。- ChatGPT使用四层上下文结构:会话元数据、用户记忆存储、最近对话摘要(约15个对话)和当前会话窗口。- 上下文工程的五大支柱:代理、查询增强、检索、记忆、工具。- Anthropic将上下文工程定义为为模型构建一个动态、容错的工作空间,而不仅仅是提示词的措辞。- Google ADK建议将上下文视为具有层次的编译视图:工作上下文、会话、记忆、工件;按需加载工件和处理器链。- Manus实践:前缀冻结以保护KV缓存,明确状态复述以防止“中途丢失”,保留错误痕迹作为负样本,并引入结构熵以避免模式过拟合。- 战术模式:工具搜索、程序化工具调用、双代理架构(初始化器+编码代理)、Git提交作为外部锚点、工具定义精简和按需加载。
Key insights
ChatGPT采用四层记忆和上下文架构
分析显示,ChatGPT将记忆结构化为四层:环境上下文的会话元数据、用于长期事实的持久用户记忆存储、约15个最近对话的摘要,以及具有滑动驱逐的完整当前会话窗口。该设计通过避免在每个请求上进行重型向量搜索,平衡了个性化、延迟和成本。
上下文工程将提示重新构建为动态编译视图
Weaviate和Google ADK材料将上下文工程定义为构建管道,将源数据编译为大型语言模型的工作视图。ADK规定了分层上下文(工作、会话、记忆、工件)、处理器链、相关性管理和按需工件加载,以控制延迟并避免上下文污染。
操作模式缓解长期代理退化
Manus和Anthropic的工程笔记推荐了一些操作战术:前缀冻结以保留KV缓存重用,明确状态复述以保持模型注意力中的关键状态,保留错误日志作为负上下文训练,工具搜索以避免将工具定义塞入系统提示,以及双代理架构以创建持久锚点用于长期任务。
工具和检索必须解耦并动态加载
作者建议精简工具定义并实施工具搜索,以便代理仅按需加载特定工具定义;检索应返回简洁的、相关性排序的材料,工件应通过名称/版本引用,而不是内嵌以避免上下文污染。