工具链故障恢复

当LLM代理协调一系列工具以达成一项复杂目的时，整个操作的可靠性取决于链中每个工具的顺利执行。然而，如同任何分布式系统或操作序列一样，故障可能且确实会发生。工具可能暂时不可用，外部API可能返回意料之外的错误，或者工具之间传递的数据可能格式不正确。如果没有处理这些问题的有效方法，代理的实用性可能受到严重影响。详细介绍了在工具链中构建恢复能力的方法，使代理能够从故障中平稳恢复并在可能时继续其任务。

识别工具链中的故障点

在设计恢复机制之前，了解故障可能在何处及如何出现在多工具执行流程中是很重要的。常见故障点包括：

• 单个工具执行错误：特定工具可能因内部缺陷、无法处理特定输入或与其自身依赖项（例如，database_query_tool的数据库连接错误）交互问题而失败。
• API 不可用或错误：封装外部API的工具容易受到网络问题、API速率限制、认证失败或来自API提供商的服务器端错误（例如，HTTP 5xx响应）的影响。
• 工具间数据不匹配：一个工具的输出可能不符合序列中下一个工具的预期输入模式。这可能是由于意料之外的数据格式、缺少必要字段或语义不兼容。
• 超时：工具执行时间可能超过预设阈值，尤其是在涉及长时间运行的操作或网络延迟时。
• 资源耗尽：如果工具用尽所需资源，例如内存或磁盘空间，尤其对于数据密集型操作，可能会失败。

识别这些潜在问题是构建更可靠代理行为的第一步。

故障恢复策略

一旦检测到工具链内发生故障，代理需要一个方案。简单地中止整个操作通常不是最佳用户体验。以下是您可以实施的几种策略：

1. 重试机制

对于瞬时问题，如暂时性网络故障或瞬时服务不可用，重试失败的操作通常是有效的。

• 简单重试：最基本的方法是固定次数地重试失败的工具。例如，如果网络请求失败，最多重试三次。
• 带指数退避的重试：为避免使一个运行不畅的服务过载或加剧网络拥堵，最好增加重试之间的延迟。指数退避涉及每次失败尝试后将等待时间加倍（例如，等待1秒，然后2秒，然后4秒）。添加抖动（在退避时间中加入少量随机时间）也有助于防止许多客户端同时重试导致的羊群效应问题。
• 条件重试：并非所有错误都可重试。例如，“无效API密钥”错误重试无法解决。您的逻辑应区分瞬时错误（例如，HTTP 503 Service Unavailable）和永久错误（例如，HTTP 401 Unauthorized）。只对标记 (token)为可能暂时性的错误进行重试。

2. 备选工具路径

如果特定工具持续失败或已知不适合特定子任务的变体，代理可能会尝试使用备选工具。

• 预设备选方案：您可以为代理配置备选工具信息，这些工具用途类似。例如，如果get_weather_forecast_api_A失败，代理可以自动尝试使用get_weather_forecast_api_B。
• LLM驱动的备选选择：对于更复杂的代理，LLM本身在收到错误报告后，可能能够对其他可用工具进行推断，以达成相同的中间目的。这需要良好的工具描述以及LLM根据故障情况重新理解任务的能力。

3. 优雅降级

有时，由于链中某个部分的不可恢复故障，无法达成完美结果。在这种情况下，代理仍能提供部分或略次优的结果。

• 可选步骤：如果失败的工具是执行可选的增强功能（例如，丰富对核心任务而言并非绝对必要的数据），代理可以跳过此步骤并继续主要工作流程。理想情况下，代理应告知用户可能缺少或信息不完整。
• 默认或缓存值：如果获取实时数据失败，代理可能会回退到使用过时（但可能仍有用）的缓存数据或一个合理的默认值，并向用户提供适当的提醒。

4. 状态管理与补偿

对于会修改状态的工具链（例如，预订航班然后预订酒店），链条中途故障可能使系统处于不一致状态。

• 补偿动作：如果一个工具执行了一个动作（例如，book_flight）并且随后的必要工具（例如，make_payment）失败，您可能需要一个补偿动作（例如，cancel_flight_booking）来将系统恢复到一致状态。在多个（可能是第三方）工具间实现事务性行为较为繁琐，但有时对于关键操作是必要的。
• 幂等性：设计工具为幂等的（即用相同输入多次调用它们与调用一次效果相同）可以简化恢复。如果工具调用超时，且不确定它是否完成，您可以安全地重试一个幂等工具而不会造成意外的副作用。

5. 用户参与升级

当自动化恢复策略已用尽或被认为不足以应对该类故障时，让用户参与是一种实用的方法。

• 清晰的错误报告：代理应清晰地向用户报告故障，说明出了什么问题以及尝试了哪些恢复步骤。
• 请求输入或修正：代理可能会请求用户帮助，例如提供修正后的输入、选择一个备选方案或手动完成一个步骤。例如，如果API密钥无效，代理可以提示用户提供一个有效的密钥。
• 暂停与恢复：对于长时间运行的链条，在故障时暂停操作、允许人工干预然后恢复链条的能力非常有价值。

6. 诊断日志与监控

虽然不是直接的恢复策略，但对工具执行、故障和恢复尝试进行全面的日志记录是诊断问题并随着时间提升代理恢复能力的基本条件。这些数据有助于您理解常见故障模式并改进恢复逻辑。这一方面将在第6章中更详细地介绍。

实现故障处理逻辑

代理的核心协调逻辑需要设计为能预见和管理故障。这通常包括：

• 错误传播：工具必须以结构化方式向协调器报告错误，包括错误类型、消息以及任何相关上下文 (context)。Python的异常处理（try...except块）是实现此目的的常见机制。
• 决策点：协调器或引导它的LLM需要逻辑来决定应用哪种恢复策略，这基于错误的性质、工具链的当前状态以及配置的恢复策略。

以下图表描绘了处理工具链内故障的一般流程，其中包含重试和备选工具策略：

协调序列中工具故障的恢复决策流程。如果工具 A 失败，系统首先考虑重试。如果重试耗尽或不适用，它会评估使用备选工具 B。如果工具 B 也失败或没有合适的备选方案，则故障会被上报。

示例：航班预订故障恢复

考虑一个任务是预订航班然后预订酒店的代理。

1. 任务：查找并预订航班，然后查找并预订酒店。
2. 工具链：search_flights_tool -> book_flight_tool -> search_hotels_tool -> book_hotel_tool。
3. 故障场景：book_flight_tool在多次重试后，由于航空公司API返回“支付处理错误”而失败。

恢复步骤：

• 记录故障：代理记录book_flight_tool返回的特定错误。
• 无简单备选方案：假设没有针对同一航空公司和航班的即时备选航班预订工具。
• 补偿（如果需要）：如果book_flight_tool在未确认付款的情况下进行了预订，则可能会尝试执行取消该预订的补偿动作，如果存在这样的工具（例如，cancel_flight_reservation_tool）。
• 通知用户：代理告知用户：“由于航空公司 X 的支付处理错误，我未能完成航班预订。初始航班预订（如果已进行）已被取消。您希望我尝试搜索不同航空公司的航班，还是稍后再试这家航空公司？”
• 调整方案：根据用户输入，代理可能：
  • 使用不同参数 (parameter)（例如，不同航空公司）重新运行search_flights_tool。
  • 推迟航班预订并稍后尝试。
  • 放弃航班预订，如果酒店预订有依赖关系，则一并放弃酒店预订。

通过整合这些故障恢复策略，您可以使您的LLM代理更加可靠且用户友好。当一个代理能够智能地应对挫折、重试瞬时错误或寻求澄清时，它会从一个脆弱的脚本转变为一个更具韧性且更有用的助手。您的恢复逻辑具体如何将取决于任务的重要性、所涉及工具的特性以及期望的用户体验。