智能体自主性及在大型语言模型环境中的行为

当一个智能体被描述为自主时，它具备无需直接、持续人工干预而运行的能力。它根据其内部状态和对环境的感知来做出决定并启动行动。在传统多智能体系统（MAS）中，自主性是一个重要的特性，通常通过明确编程目标、信念、愿望和意图（BDI架构是一个典型案例）来实现。然而，当大型语言模型（LLM）成为智能体的核心组成部分时，这种自主性的特点以及随之而来的行为获得了新的层面，这在很大程度上受LLM固有能力和限制的影响。

LLM驱动的智能体主要从模型处理自然语言指令（提示）以及生成连贯、与语境相关的回应（可转化为行动）的能力中获得自主性。与采用固定规则集或决策树的传统编程智能体不同，基于LLM的智能体的“决策”过程嵌入 (embedding)在其Transformer架构学习到的复杂模式中。这带来了一种更灵活、但有时预测性较低的自主形式。

LLM智能体自主性的范围

LLM智能体的自主性并非二元状态，而是在一个范围内存在。自主程度主要由提示策略的复杂程度、记忆系统的整合、智能体的规划和工具使用能力以及整体架构设计所决定。

LLM智能体自主性的演进，从简单的指令遵循到主动和适应性行为，以及每个阶段的主要实现因素。

在这个范围的低端：

• 指令遵循： 智能体执行提示中提供的特定命令。其自主性仅限于解释并根据这些即时指令行动。例如，一个被要求“总结这段文本：...”的LLM，其自主性最低，仅限于执行摘要任务。
• 响应式智能体： 这些智能体响应来自其环境的刺激。一个接收用户查询并生成答案的LLM就是一个响应式智能体。它的行为是对输入的直接回应，由其训练和即时提示引导。

当我们转向更高自主性时：

• 上下文 (context)感知响应式智能体： 这些智能体保持短期记忆（例如，近期对话历史），以提供更连贯、与语境相关的回应。这使得交互能够更持久，但它们仍主要是响应式的。能够记住对话最后几轮的聊天机器人属于此类。
• 目标导向智能体（简单任务）： 这些智能体可以追求简单、预设的目标，这些目标可能需要几个步骤。像ReAct（推理 (inference)与行动）这样的技术（LLM在此生成思维过程和后续行动，例如使用工具）支持这一程度的自主性。智能体可能被要求“查找伦敦当前天气，然后告诉我是否需要带伞。”这包含规划（至少）两个行动的序列。
• 主动与适应性智能体（复杂任务）： 在最高端，智能体表现出主动行为，即使没有明确的即时指令，也会启动行动以实现长期或复杂目标。它们可以根据新信息调整策略，从过去的交互中学习（尽管在大多数当前系统中不是通过更新核心LLM权重 (weight)，而是通过优化计划或存储在辅助记忆中的知识），并使用多样化的工具集。这类智能体通常依赖高级规划模块、长期记忆（例如，用于获取相关知识的向量 (vector)数据库），以及自我反思和纠正机制。一个管理复杂项目、与其他智能体协调，并根据进度和障碍动态调整其计划的智能体，就是这方面的例子。

LLM塑造的行为特点

使用LLM作为核心推理 (inference)引擎，赋予了智能体独特的行为特点：

以语言为中心的操作

LLM智能体主要通过自然语言“思考”和操作。它们的内部状态、推理 (inference)过程（如思维链提示）以及与其他智能体或人类的交流通常表现为文本。这使其行为在较高层面具有一定可解释性，但也容易受到语言歧义的影响。

涌现 (emergence)行为

在包含多个LLM智能体的系统中，或甚至单个复杂的智能体中，可能会出现未明确编程的行为。LLM泛化和生成新颖文本的能力可能带来创新解决方案或意料之外的交互。尽管有时有益，但这也会给可预测性和可靠性带来挑战。例如，为协商而设计的两个智能体可能形成意想不到的协作策略，或者相反，由于对彼此生成语言的细微理解偏差而陷入僵局。

通过上下文 (context)学习实现适应性

LLM通过上下文学习表现出一种快速适应的形式。通过在提示中提供示例、指令或反馈，智能体的行为可以被动态引导，而无需重新训练底层模型。这允许灵活的任务适应，但受限于上下文窗口大小和所提供示例的质量。真正的、持久的学习通常需要与外部记忆和学习机制结合在LLM的核心推理 (inference)过程中。

可预测性与生成自由度

系统稳定性对智能体可预测行为的需求，与希望发挥LLM生成能力以产生新颖或创造性回应之间，存在明显的制约。LLM API调用中的temperature或top_p等参数 (parameter)直接影响这一点。较低的温度会导致更确定、集中的输出，而较高的温度则鼓励多样性和创造性，但可能会以事实准确性或任务依从性为代价。系统设计者必须根据应用的需求仔细平衡这些因素。

一致性与可靠性

尽管功能强大，LLM有时即使对于相似输入也可能产生不一致的输出，或生成流畅但可能包含事实错误（幻觉 (hallucination)）的文本。对于一个依赖LLM输出进行决策或行动的自主智能体来说，这可能导致不稳定或不正确的行为。缓解此问题的策略包括：

• 结构化输出提示： 强制LLM以特定格式（例如JSON）生成可被验证的回应。
• 少样本提示： 在提示中提供多个期望的输入-输出对示例。
• 验证层： 在LLM输出被采取行动之前，对其进行外部检查。
• 自我纠正循环： 设计提示以鼓励LLM根据特定标准审查和优化其自身输出。

控制与引导智能体行为

有效多智能体系统需要机制来引导和约束单个LLM智能体的自主性，以确保它们可靠运行并与整体系统目标保持一致。

• 提示工程 (prompt engineering)： 这仍然是塑造LLM智能体行为的主要界面。精心设计的提示，包含角色、明确指令、约束、期望输出格式和推理 (inference)框架（如思维链或ReAct），是根本。例如，一个提示可能指令智能体：“扮演一名高级软件架构师。当遇到问题时，首先将其分解为子问题，然后提出三种不同的解决方案，并评估每种方案的可扩展性和成本。以JSON格式输出你的回应。”
• 记忆系统： 如自主性范围中所述，记忆（短期用于即时上下文 (context)，长期用于持久知识和经验）非常重要。智能体的行为很大程度上受其“记忆”内容的影响。访问向量 (vector)数据库中存储的相关历史交互、成功或失败的策略，或领域特定知识，可以大幅提升决策质量和行为一致性。这将在第二章中进一步讨论。
• 工具整合： 允许智能体访问外部工具（API、数据库、代码解释器）显著扩展了它们超越文本生成的行为能力。然而，这也需要仔细管理工具权限、工具调用的输入验证，以及工具输出的解析。何时以及如何使用工具的决定通常委托给LLM本身，这使得工具使用提示模式变得重要。
• 编排与管理： 在多智能体系统中，更高层次的编排逻辑（第四章会介绍）通常指导信息流向、分配任务，并且可以覆盖或重定向智能体行动。这会在单个智能体自主性之上施加一层控制，以实现集体目标并保持系统稳定性。

理解自主性和行为的这些方面非常重要，因为这能帮助您设计的智能体不仅智能，而且可预测、可靠，并与您的应用目标保持一致。LLM在语言理解和生成方面的固有优势提供了一个重要的支撑，但仔细的架构设计和控制机制对于构建有效和可管理的多智能体系统是必要的。后续章节将在这些基本思想之上进行扩展，研究如何设计特定的智能体角色、实现通信以及编排复杂工作流。