随着代理系统与环境互动并长期积累信息，它们的记忆存储，特别是长期向量数据库，必然会增长。不受控的增长会导致一些操作上的难题：检索延迟增加、搜索计算成本提高，以及检索到不相关或过时信息的可能性增大，这可能会降低代理的性能。应对这种情况需要精巧的记忆整合和摘要机制，将原始互动日志和检索到的数据转变为更紧凑、有组织、有意义的表示形式。
这个过程不仅仅是数据压缩；它旨在积极管理代理的知识库，以随时间保持相关性、效率和连贯性。有效的整合反映了生物记忆的某些方面，即经验被处理、抽象并融入现有知识结构。
记忆整合方法
重要的方法包含：
-
周期性反思与综合： 代理可以被设计为周期性地暂停其主要任务，进入一个“反思”阶段。在此阶段，代理使用核心大型语言模型（LLM）分析近期记忆（例如，最近 N 步或 T 分钟的互动、观察、工具输出）。目的是综合更高层次的见解，识别模式，或生成事件的简洁摘要。
- 实施： 这通常涉及特定的元提示，指示LLM执行如下任务：“回顾以下一系列观察和行动。主要目标、结果和未解决的问题是什么？”或“从最近的对话历史中识别重复的主题或用户偏好。”
- 输出： 综合所得的知识可以作为新的记忆条目存储，可能带有区分其摘要性质的独特元数据。这些摘要可以与原始条目共存，或在某些策略中取代原始条目以减少冗余。
-
抽象与泛化： 从简单的摘要向前，整合可以包含从存储在记忆中的特定实例中抽象出一般规则或原则。例如，在多次处理数据库连接错误后，代理可能会综合出一个一般原则，如：“服务X的数据库连接失败通常与防火墙配置问题有关。”
- 机制： 这通常需要精心设计的提示，以鼓励LLM从记忆中提取的例子中进行泛化。此处可以应用少样本学习或上下文学习的方法。
- 益处： 抽象的知识为未来的推理和规划提供了捷径，可能减少了针对类似问题检索和处理大量低层次细节的需要。
-
记忆修剪与遗忘： 整合的一个必要方面是决定哪些信息不再相关或价值降低。盲目积累会导致臃肿。因此需要遗忘机制：
- 基于时间的衰减： 给记忆分配一个“新近度”分数，该分数随时间降低。低于特定阈值的记忆可能会被修剪或存档。衰减函数 S新=S旧×e−λΔt 是一种常见方法，这里 λ 是衰减率，Δt 是时间间隔。
- 基于相关性的修剪： 追踪记忆被检索的频率以及在这些检索中被认为的相关性（例如，根据检索分数或后续代理反馈）。不常被访问或持续排名较低的记忆可以是移除的候选者。
- 冗余消除： 识别并合并或移除包含高度相似语义内容的记忆条目。这通常涉及嵌入比较和聚类方法。
摘要策略
摘要专门侧重于将信息浓缩为更短的形式，同时保留其核心含义。在代理记忆的背景下，这对于管理对话历史、冗长文档或复杂事件序列非常重要。
-
LLM驱动的摘要： 代理的核心LLM通常是执行摘要的最佳工具。
- 抽象式摘要： LLM生成新文本，捕获源材料的要旨。这对于创建高度简洁和连贯的摘要功能强大，但需要能力强的模型和仔细的提示工程，以避免幻觉或关键细节的丢失。示例提示：“请用一句话对以下研究论文摘录中的主要发现进行抽象式摘要：[...]”
- 提取式摘要： LLM从原始文本中识别并提取最重要的句子或短语。这通常更忠实于源材料，但可能导致摘要流畅性较差。示例提示：“从本报告中提取描述方法论的三个最重要句子：[...]”
-
分层摘要： 对于非常长的互动或文档，单个摘要可能仍然太长或缺乏必要的粒度。分层摘要在多个层级创建摘要。
- 过程： 将内容划分为数据块（例如，段落、对话轮次）。对每个数据块进行摘要。然后，对数据块摘要进行摘要，以创建更高层次的摘要，并根据需要重复此过程。
- 表示： 这自然形成一个树状结构，其中叶节点是原始数据或小数据块，父节点表示日益抽象的摘要。代理随后可以按适当的细节级别检索信息。
一种分层摘要结构，允许从原始数据块到高层次概览以不同详细程度检索信息。
-
摘要的元数据增强： 摘要本身需要有效索引和检索。应用诸如关键词提取（例如，使用TF-IDF对摘要文本进行处理或请LLM列出关键词）或命名实体识别（NER）来识别摘要中的主要人物、地点或思想，可以生成有价值的元数据。这些元数据有助于在检索期间快速定位相关摘要。
实施考量与权衡
实施这些方法需要仔细的设计选择：
- 触发整合： 整合应该何时发生？选项包含：
- 基于时间： 定期间隔（例如，每晚）。简单但可能与代理活动不一致。
- 基于事件： 在一定数量的互动后或任务完成后。响应更及时，但如果同步执行可能会中断代理的流程。
- 基于资源： 当记忆大小或检索延迟超过预设阈值时。适应性强但需要监控。
- 离线与在线： 整合可能计算密集。通常更倾向于将其作为异步后台进程运行，以避免阻塞代理的主要功能。在线整合提供更即时的益处，但需要高效算法。
- 信息保真度： 积极的摘要或修剪节省空间和计算，但存在丢失潜在价值细节或细微差别的风险。效率和信息完整性之间的权衡必须仔细管理，这通常取决于代理的应用场景。
- 评估： 评估整合的有效性并非易事。度量标准可能包含记忆大小减少、检索性能提升（延迟、相关性）以及对后续任务成功率的影响。比较在基准任务上使用和不使用整合策略的代理性能是必要的。
记忆整合和摘要不是一次性修复，而是针对精巧代理系统长期可行性和性能的持续过程。它们将记忆从一个简单的日志转变为一个动态管理的知识库，使代理能够学习、适应并在更广阔的范围内有效运行。
