监控系统和日志提供了关于工具调用、错误和基本性能指标的有价值数据。然而，评估工具的有效性需要更进一步。这不仅仅是关于工具是否运行了，而是它如何出色地完成了预期功能，以及，LLM如何有效地使用它来达成目标。这种分析对于构建真正智能、可靠的智能体系统是必要的，它允许您改进工具，优化LLM提示，并最终提升整体智能体性能。
定义与衡量工具有效性
真正的工具有效性是一个多方面的属性。我们需要超越简单的执行成功，考量工具对智能体任务的贡献质量与实用性。
需要衡量的重要方面包括：
-
任务成功率：这不仅仅是工具没有报错。工具调用是否真正达到了智能体计划中的预期子目标？例如，如果一个query_database工具在没有语法错误的情况下运行，但由于LLM形成了糟糕的查询而返回了空集，那么从智能体的角度看，该工具技术上是“成功”的，但在该情况下却“无效”。定义任务成功通常需要智能体目标的上下文 (context)信息。
- 如何衡量：这可以涉及解析工具输出以寻找预期的成功标志，将结果与已知事实（如果可用）进行比较，或者在更复杂的情况下，依靠人工审查或下游任务完成率。
-
结果质量：当一个工具产生输出（例如，来自API的数据、网页摘要、计算结果）时，该输出的质量如何？
- 相关性：工具提供的信息是否与LLM当前的需求直接相关？
- 准确性：信息是否正确？对于天气工具，温度是否准确？对于数据提取工具，提取的字段是否正确？
- 完整性：工具是否提供了所有必要的信息，还是过于简短或缺少重要细节？反之，是否过于冗长，导致LLM难以解析？
- 清晰度：输出的结构是否便于LLM理解和使用？（这与第2章中“为LLM构建复杂的工具输出”相关联）。
- 如何衡量：这通常需要自动化检查（例如，模式验证、关键词识别）和人工评估相结合，特别是对于相关性或准确性等方面。对于文本生成或摘要工具，与参考输出对比的ROUGE或BLEU分数可以作为参考，尽管它们有局限性。
-
效率与资源利用：
- 延迟：尽管基础监控跟踪延迟，但评估会考量工具的延迟在智能体整体任务和用户体验的背景下是否可接受。一个耗时5秒的工具对于复杂的数据分析任务可能可以接受，但对于快速查找则不然。
- 尝试次数：LLM需要调用工具（可能带有修改后的参数 (parameter)）多少次才能获得满意的结果？对于相同的逻辑子任务，大量的重试可能表明工具的稳定性、其描述或LLM正确使用它的能力存在问题。
- 成本（如果适用）：对于调用付费API的工具，评估成本效益很重要。从工具中获得的价值是否足以证明其运营成本是合理的？是否有更便宜的替代方案或优化其使用方式？
分析LLM的工具使用模式
与工具本身的有效性同样重要的是LLM如何与它互动。一个难以使用一个功能完备工具的LLM将导致智能体表现不佳。
需要评估的LLM工具使用主要方面：
-
工具选择的恰当性：
- LLM是否从可用工具集中为当前子任务选择了最合适的工具？
- 是否存在LLM尝试某项任务但没有使用可用且合适的工具的情况（利用不足）？
- 相反，LLM是否不必要地使用工具，或者将其用于非设计用途的任务（过度使用或误用）？
- 如何分析：检查智能体日志和跟踪记录。查找导致特定工具选择的任务描述中的模式。将所选工具与该子任务的“理想”工具进行比较，这可能由人类专家或预定义测试用例确定。
-
工具参数 (parameter)化的质量：
- LLM是否向工具提供了准确、完整且格式正确的参数？
- 常见问题包括缺少必需参数、提供错误类型的值（例如，字符串而不是整数），或语义上不正确的输入（例如，对于
get_user_details工具，提供了不存在的user_id）。
- 如何分析：日志在此处是主要的。跟踪因输入验证错误而失败的工具调用。对于成功的调用，参数是否合理？例如，如果调用了
search_product(query: str, category: Optional[str])工具，query是否足够具体？category是否在需要时被恰当地使用了？
-
工具输出的解释与使用：
- 一旦工具返回数据，LLM对其的理解和处理能力如何？
- 它能否从复杂的输出中正确提取所需的信息？
- 它能否处理输出格式的变化（在合理范围内，假设工具遵循其模式）？
- 如果工具指示部分成功或提供警告，LLM是否会识别并调整其策略？
- 如何分析：这通常是最难自动化的。它需要查看LLM在工具调用后的后续推理 (inference)步骤或行动。通常需要人工审查智能体交互日志。“思维链”等方法可以展示LLM如何处理工具输出。
-
编排有效性（针对多工具场景）：
- 当一个任务需要多个工具时，LLM能否逻辑且高效地对它们进行排序？
- 它能否正确地将一个工具的输出作为另一个工具的输入传递？
- 它如何处理多工具链中某一步的失败？（有关编排的更多信息，请参阅第3章）。
- 如何分析：跟踪整个任务执行过程。识别常见的成功和不成功的工具序列。
以下图表显示了工具使用频率与成功率的快照。这样的可视化可以快速指出那些使用频繁但成功率较低的工具（例如这里的“DB查询”工具），这表明它们是需要优先调查和改进的方面。
该图表比较了不同工具的相对使用频率及其观察到的成功率。使用率高但成功率低的工具值得仔细检查。
评估方法
可以采用多种方法来评估工具有效性和LLM的使用情况：
-
全面日志分析：
- 系统地审查来自监控系统的汇总日志。
- 开发查询和仪表板来跟踪上面讨论的指标（成功率、参数 (parameter)错误、每种任务类型的工具选择频率）。
- 查找异常和随时间变化的趋势。例如，最近对工具描述的更改是否与LLM有效使用该工具的下降相关联？
-
人工评估与标注：
- 这通常是衡量质量和恰当性方面的“黄金标准”。
- 创建一个包含代表性任务的“黄金数据集”。让人工评估员评估智能体在这些任务上的表现，特别注意工具使用情况。
- 指标可以包括任务完成度、工具选择准确性、参数正确性以及解决方案的整体质量。
- 标注平台可以帮助简化这一过程。尽管耗费资源，但人工评估能提供极其宝贵的定性观察。
-
A/B测试：
- 当您对工具（例如其实现、描述、输入/输出模式）或智能体关于工具使用的提示策略进行更改时，A/B测试可以客观地衡量其影响。
- 将智能体的两个版本（对照组和实验组）部署到一部分流量或任务中。
- 比较两个版本之间与工具有效性和整体任务成功相关的性能指标（KPI）。
-
反事实模拟（进阶）：
- 为了更深刻的理解，您可以模拟场景。例如，暂时禁用某个工具，并观察LLM如何适应。它会找到替代方案（可能效率较低），还是会失败？这有助于量化 (quantization)特定工具的价值。
- 在受控环境中修改工具的描述，并观察LLM选择模式的变化。
-
LLM作为评判者（新兴技术）：
- 使用一个单独的、强大的LLM（“评判者”）来评估智能体的输出或行为。
- 您可以向评判者LLM提供智能体的任务、其使用的工具、参数、工具的输出以及智能体后续的推理 (inference)过程。
- 评判者LLM随后可以对诸如“这是正确的工具吗？”、“参数是否恰当？”、“工具输出是否被有效使用了？”等进行评分。
- 这需要对评判者LLM进行细致的提示工程 (prompt engineering)，并验证其一致性和准确性。
建立持续改进的反馈循环
评估并非一次性任务。它是一个持续过程，将反馈信息融入工具和智能体的开发与改进中。
这是一个迭代循环，评估结果带来观察，进而推动工具和智能体策略的改进，随后是进一步的评估。
根据您的评估结果，您可能会：
- 改进工具描述：如果LLM持续误用工具或未能适时选择它，那么其描述（名称、用途、参数 (parameter)）可能需要更清晰或更详细。这里的微小改动都能产生显著影响。
- 优化工具输入/输出模式：如果LLM在提供正确参数或解析输出时遇到困难，那么模式可能过于复杂、模糊或对LLM不友好。
- 增强工具逻辑：根据观察到的不足之处，修复错误、改进错误处理或为工具添加新功能。
- 调整智能体提示或微调 (fine-tuning)：修改智能体的系统提示或微调底层LLM，以引导其实现更好的工具选择和使用模式。
- 开发新工具：评估可能会揭示智能体能力的不足，可以通过创建新工具来弥补。
- 弃用或组合工具：如果一个工具持续无效、很少使用，或者其功能可以被其他工具更好地实现，请考虑弃用或重新设计它。
通过系统地评估您的LLM智能体如何使用其工具以及这些工具的有效性，您可以从仅仅具备功能的智能体，转向构建高能力、可靠且高效的系统。这种持续的评估与改进循环是开发工具增强型LLM应用中良好工程实践的特征。
