代理工程与持续学习的必要性

代理工程将以生产为驱动的迭代框架视为实现可靠AI代理的路径。
Key insights
代理工程被定义为一门新学科
代理工程被呈现为一门独特的工程学科,其目标是通过迭代方式将非确定性AI代理系统精炼为生产级、可靠的体验。这一方法论是一个快速循环——构建、测试、发布、观察、优化、重复——强调发布是主要的学习方法,而生产环境才是真正的老师。成功的实践需要在产品思维(提示、任务边界、评估)、工程(工具、运行时、接口)和数据科学(监控、错误分析)之间进行协调。
生产部署是主要的可靠性机制
LangChain的观点强调,可靠性不能孤立地实现:生产环境提供的真实用户行为和决策痕迹是评估代理所必需的。推荐的实践包括平衡确定性工作流与LLM决策点,在可预见的场景中进行测试,追踪生产中的每个决策,基于生产数据进行评估,并根据观察到的错误迭代优化提示、工具和回归。
持续学习是关键的缺失能力
Dwarkesh Patel认为,当前AI进展显示出一种矛盾:团队在许多工具特定技能(如Excel、浏览器)上对模型进行预训练,但如果模型像人类一样学习,它们将无需针对每个工具的训练管道。Patel指出,人类能够快速学习新的判断任务,而AI则需要专门的训练管道。他评估当前AI的表现远低于人类知识工作者的经济价值,并将持续的、基于经验的学习——使代理能够从使用中成长——视为关键的未解决问题,预计需要5到10年才能解决。
上下文工程,而非提示调整,推动顶尖团队的提升
有观点认为,Anthropic、OpenAI和Google团队之间的生产力差距更多地源于上下文工程,而非提示工程。该观点列出了顶尖团队使用的八种具体上下文工程技术,并指出这些技术在效果上比简单的提示方法提高了多达十倍的效率。
世界模型接近产品化的拐点
Fei-Fei Li表示,世界模型接近实现产品就绪的'ChatGPT时刻':一旦它们达到足够的基础能力并实现产品化和广泛可用,将会像GPT-3.5的产品化那样迅速被接受,从而推动ChatGPT的传播。