逆向工程发现ChatGPT使用四层上下文记忆,而非单一向量数据库/RAG

对ChatGPT记忆的分析表明,它依赖于四层上下文结构——会话元数据、长期用户记忆(关键信息)、最近的对话摘要(约15次对话)以及当前会话的滑动窗口——而不是全面的向量数据库/RAG;这种设计在个性化、延迟和成本之间取得了平衡,并通过核心事实加上最近摘要提供了“伪全知”的用户体验。

对ChatGPT记忆的分析表明,它依赖于四层上下文结构——会话元数据、长期用户记忆(关键信息)、最近的对话摘要(约15次对话)以及当前会话的滑动窗口——而不是全面的向量数据库/RAG;这种设计在个性化、延迟和成本之间取得了平衡,并通过核心事实加上最近摘要提供了“伪全知”的用户体验。