提示词的信息精简技巧

正如我们所知，智能体的短期记忆主要在其上下文窗口内管理，这是一种有限的资源。处理大量交互、冗长文档或详细工具输出时，原始信息会迅速占用这个有限的空间。此时，信息精简技巧变得不可或缺。通过智能地减少信息量同时保留其核心含义，您可以让智能体处理更复杂的场景，维持更长时间的对话，并更高效地运行。本节主要说明如何使用提示词指导大型语言模型有效精简信息，以供智能体记忆使用。

核心思路是将冗长信息转换为智能体可以方便使用或存储的更紧凑形式。这不仅仅是缩短内容；更是要为智能体的当前目标和未来动作保留最相关细节。

提示词进行总结

总结是精简信息最直接的方式之一。您可以指示大型语言模型创建给定文本的简洁版本。您的提示词可以引导这些总结的风格、长度和侧重点。

抽象式与抽取式总结的引导

虽然您通常不会在提示词中明确指定“抽象式”或“抽取式”总结，但您的措辞可以引导大型语言模型倾向于其中一种：

• 鼓励抽象式总结（即大型语言模型生成新措辞以捕捉核心内容），可使用如下提示词：

  • “将以下客户反馈总结为一个段落，突出其主要观点和建议。”
  • “提供随附文章的简要概览，侧重其核心发现。”
  • “将我们对话的最后三个回合浓缩成一句话，概括请求的当前状态。”

• 鼓励抽取式总结（即大型语言模型直接从文本中提取重要句子或短语），您可以这样问：

  • “从这份报告中提取概述项目风险的最重要句子。”
  • “识别用户查询中的主要内容。”（这通常会得到抽取出的短语）。

实际上，大型语言模型通常会生成混合式总结。重要的是，您的提示词要清楚界定期望的结果和优先处理的信息。

智能体中总结的使用场景：

• 对话历史：精简对话先前的回合，以便智能体了解上下文而不超出token限制。例如，每隔几回合后：“总结我们目前的对话，侧重已做出的决定和未解决的问题。”
• 工具输出：许多工具返回冗长的JSON或文本。可以提示智能体总结这些输出：“搜索工具返回以下内容：[长文本]。总结相关发现，以回答用户关于X的问题。”
• 文档处理：当智能体需要“阅读”一份长文档时，它可以分块处理，总结每个块，然后总结这些总结，以构建全面的理解。

关键词和关键短语提取

有时，不需要完整的总结，而是需要一组代表文本核心主题的重要术语。提示词进行关键词或关键短语提取是一种非常高效的精简方法。

• 示例提示词：
  • “从以下文本中提取5个最重要的关键词：[文本]。”
  • “列出本文档中提到的主要技术术语。”
  • “此用户请求中讨论的主要议题是什么？”

关键词可以用作标签，用于快速相关性检查，或作为从知识库中进一步检索信息的输入。

结构化数据转换

通常，如果将散布在自然语言中的信息转换为JSON等结构化格式，可以更有效地存储和处理。这是一种强大的信息凝练方法，因为它不仅减少了冗长，还组织了信息，以便智能体或其他系统更容易进行程序化访问。

• 示例提示词：
  • “将以下用户请求转换为JSON对象。请求是：'我想订购3个大号意式辣香肠披萨和一杯健怡可乐，送到主街123号。' JSON应包含键'items'（一个包含'name'和'quantity'的对象数组）、'drink'和'address'。”
  • “分析此产品评论并提取产品名称、评分（1-5星）以及提到的优缺点列表。以JSON对象形式呈现。”
  • “从以下会议记录片段中，识别待办事项。对于每个待办事项，提供事项本身和分配人员，格式为JSON对象列表：[会议记录片段]。”

此方法特别适用于从非结构化文本中提取特定信息，并使其可由智能体的逻辑或工具直接使用。

引导精简过程

有效的精简依赖于提示词中清晰的指令。

• 长度和细节：明确所需的简洁程度。

  • “总结为一句话。”
  • “提供不超过3项的要点列表。”
  • “将其精简至100字以内。”

• 侧重点和相关性：指导大型语言模型保留哪些重要信息，尤其是在与智能体当前任务或总体目标相关时。

  • “总结用户的问题描述，侧重他们正在经历的症状，并忽略任何客套话。”
  • “从此API响应中，只提取'id'和'status'字段。”

• 保持完整性：虽然简洁很好，但要确保重要信息不丢失。

  • “精简之前的步骤，但确保所有提及的限制和用户偏好都得以保留。”

渐进式精简

对于持续交互或随时间演进的任务，渐进式精简是一种有价值的策略。智能体不是重新处理所有历史数据，而是维护一个运行中的总结或精简状态，并用新信息进行更新。

• 提示词策略：

  1. 提供当前精简的总结/状态。
  2. 提供新的信息（例如，最新的用户消息、新的工具输出）。
  3. 指示大型语言模型将新信息整合到现有总结中，创建一个更新的、仍然精简的版本。
  • 示例：“这是我们进展的总结：[之前的总结]。用户刚刚添加：[新的用户消息]。更新总结以反映此新信息，并保持简洁。”

这种方法有助于在长期运行的智能体工作流中有效管理上下文。

下面的图表说明了由提示词引导的信息精简的一般流程：

智能体使用特定提示词指示大型语言模型处理原始信息，并生成精简版本，此版本随后用于更新智能体的工作记忆或为后续提示词提供信息。

简洁性与细节的平衡

信息精简中的主要权衡在于简洁性和信息保真度之间。过度激进的精简可能导致重要细节的丢失，从而妨碍智能体准确执行任务的能力。相反，精简不足则无法缓解上下文窗口的压力。

• 迭代改进：找到合适的平衡点通常需要反复试验。测试不同的精简提示词，并观察它们对智能体性能及其记忆质量的影响。
• 任务依赖的精简：精简总结中最佳的细节程度可能因智能体当前任务而异。例如，用于快速状态更新的总结可能比旨在捕捉复杂决策过程所有细节的总结要短。

通过掌握这些由提示词驱动的精简技巧，您可以使您的AI智能体更有效地处理大量信息，从而提高连贯性，在长时间交互中做出更好的决策，并更高效地使用大型语言模型的能力。这些精简后的信息不仅对短期回忆有用，也是存储在长期记忆系统中的优秀备选，我们将在后续内容中对其进行更多说明。