趋近智
LLM框架通常使用“链式调用”来执行预设的LLM调用序列及其他操作。然而,许多任务需要比这些固定序列更具动态性的行为。设想一个场景,应用需要回答一个问题,例如“伦敦昨天的天气如何,以及上个月那里报告的下雨天数的平方根是多少?”一个直接的链式调用可能难以处理,因为具体步骤依赖于中间结果(例如,查询天气报告,提取下雨天数,然后进行计算)。对于这类情况,智能体非常有效。
在LangChain这类LLM框架中,一个智能体不只是使用大型语言模型生成文本,更是将其作为推理 (inference)引擎,来决定要执行的一系列动作。与其说它像遵循食谱(链式调用),不如说它更像一个能够利用一系列可用工具来找出如何完成目标的助手。
其核心思想是智能体:
这种决策过程在一个循环中运行,这个循环通常被称为“智能体执行器”或“运行时”。在每一步中,LLM不仅会收到原始目标,还会收到迄今为止已执行动作的历史记录和收到的观察结果,以及它可以使用的工具的描述。
以下是智能体执行流程的简化视图:
一张图表,说明了智能体执行循环,其中LLM根据输入和之前的步骤决定是使用工具还是生成最终回复。
用于引导LLM推理 (inference)的提示语非常重要。它通常会指导LLM如何一步步思考,列出可用工具及其功能和预期输入,并指定LLM应使用的格式来指示其选择的动作及其输入。ReAct(思考+行动)等技术常作为这些提示语的基础,鼓励LLM在选择动作前明确说明其推理过程。
智能体在处理某些类型的问题时,比简单的链式调用具有显著优势:
然而,这种动态特性也意味着智能体可能不如链式调用那样可预测。它们的行为很大程度上取决于LLM的质量、提示语的清晰度以及工具的可靠性。调试有时需要追溯智能体在多个步骤中的思考过程。此外,如果推理 (inference)引导不当或工具产生意外错误,智能体也有可能陷入循环或未能完成任务。另外,由于智能体在其执行循环中经常对LLM进行多次调用,因此与单次链式调用相比,它们可能产生更高的运营成本。
在下一节中,我们将详细了解如何定义和整合这些赋予智能体行动能力的“工具”。
简洁的语法。内置调试功能。从第一天起就可投入生产。
为 ApX 背后的 AI 系统而构建
这部分内容有帮助吗?
© 2026 ApX Machine LearningAI伦理与透明度•