常见问题解答：智能体设计模式

什么是“智能体设计模式”？

智能体设计模式是一种可复用的高级解决方案，用于构建智能自主系统（Agent）时常见的问题。这些模式为智能体行为设计提供了结构化框架，类似于传统编程中的软件设计模式，帮助开发者构建更健壮、可预测且高效的智能体。

本指南的主要目标是什么？

本指南旨在为智能体系统的设计与构建提供实用、可操作的入门方法。内容不仅限于理论讨论，还提供了具体的架构蓝图，开发者可据此创建具备复杂目标导向行为的可靠智能体。

本指南的目标读者是谁？

本指南面向 AI 开发者、软件工程师和系统架构师，尤其是那些使用大语言模型（LLM）及其他 AI 组件构建应用的人员。适合希望从简单的问答交互升级到构建复杂自主智能体的开发者。

有哪些关键的智能体模式？

本指南涵盖了以下关键模式：

• 反思（Reflection）：智能体能够自我批评其行为和输出，以提升性能。
• 规划（Planning）：将复杂目标拆解为可管理的步骤或任务。
• 工具使用（Tool Use）：智能体调用外部工具（如代码解释器、搜索引擎、API）以获取信息或执行自身无法完成的操作。
• 多智能体协作（Multi-Agent Collaboration）：多个专职智能体协同解决问题，通常包含“领导”或“协调者”Agent。
• 人类参与（Human-in-the-Loop）：集成人类监督与干预，允许反馈、纠正和批准智能体行为。

为什么“规划”模式很重要？

规划使智能体能够应对复杂的多步骤任务。通过制定计划，智能体可保持策略一致性、跟踪进度，并有结构地处理错误或意外情况，避免陷入困境或偏离用户目标。

“工具”与“技能”有何区别？

虽然两者常被混用，但“工具”通常指智能体可调用的外部资源（如天气 API、计算器）；“技能”则是智能体已学会的集成能力，往往结合工具使用与内部推理来完成特定功能（如“订票”技能可能涉及日历和航空 API）。

“反思”模式如何提升智能体性能？

反思是一种自我纠错机制。智能体在生成响应或完成任务后，可被提示回顾其工作，检查错误、评估质量或考虑替代方案。迭代优化过程有助于输出更准确、相关和高质量的结果。

反思模式的核心思想是什么？

反思模式赋予智能体自省的能力。智能体先生成草稿，再“反思”其内容，找出缺陷、遗漏或改进空间。自我纠错是提升响应质量和准确性的关键。

为什么简单的“提示链”不足以获得高质量输出？

简单提示链（即将一个提示的输出作为下一个提示的输入）往往过于基础，模型可能只是重述之前的内容而非真正改进。真正的反思模式需要结构化批评，促使智能体根据标准分析其工作、检查逻辑错误或核实事实。

书中提到的两种主要反思类型是什么？

包括：

• “检查你的工作”反思：让智能体回顾并修正其输出，适合捕捉简单错误。
• “内部批评者”反思：由独立“批评者”智能体或专用提示评估“工作者”智能体的输出，可根据特定标准进行更严格的改进。

反思如何减少“幻觉”？

通过让智能体回顾其工作，尤其是与已知信息对比或检查推理步骤，反思模式能显著降低幻觉（虚构事实）发生概率，使智能体更依赖上下文，减少无依据的信息生成。

反思模式可以多次应用吗？

可以，反思可迭代进行。智能体可多次反思其工作，每次循环进一步优化输出，尤其适用于复杂任务，初次或二次尝试仍可能存在细微错误或改进空间。

智能体中的规划模式是什么？

规划模式指智能体将复杂、高层目标拆解为一系列可执行的小步骤。智能体先制定“计划”，再逐步执行每个步骤，这种方式更可靠。

复杂任务为何需要规划？

LLM 在多步骤或有依赖关系的任务中容易出错。没有计划，智能体可能丢失目标、遗漏关键步骤或无法正确处理步骤间的输入输出。计划提供清晰路线图，确保所有需求按逻辑顺序完成。

规划模式常见实现方式是什么？

通常让智能体先生成结构化步骤列表（如 JSON 数组或编号清单），系统再逐步执行每个步骤，并将结果反馈给智能体以指导后续行动。

智能体如何处理执行过程中的错误或变化？

健壮的规划模式支持动态调整。若某步骤失败或情况变化，智能体可被提示从当前状态“重新规划”，分析错误、修改剩余步骤或新增步骤以解决问题。

用户能看到计划吗？

这取决于设计。很多情况下，先向用户展示计划并征求批准是良好实践，符合“人类参与”模式，让用户在智能体执行前拥有透明度和控制权。

工具使用模式是什么？

工具使用模式让智能体通过与外部软件或 API 交互扩展能力。由于 LLM 的知识是静态的，无法自主执行现实操作，工具赋予其访问实时信息（如 Google 搜索）、专有数据或执行操作（如发邮件、订会议）的能力。

智能体如何选择使用哪个工具？

通常会向智能体提供可用工具列表及其功能描述和参数要求。当遇到自身无法处理的请求时，智能体可通过推理选择最合适的工具完成任务。

“ReAct”框架是什么？

ReAct 是集成推理与行动的流行框架。智能体循环进行思考（推理所需操作）、行动（选择工具及输入）、观察（获取工具结果），直到收集足够信息满足用户需求。

实现工具使用时有哪些挑战？

主要包括：

• 错误处理：工具可能失败、返回异常数据或超时，智能体需识别错误并决定重试、换工具或请求用户协助。
• 安全性：智能体访问工具，尤其是可执行操作的工具，涉及安全问题，需权限控制和敏感操作的人类审批。
• 提示设计：需有效提示智能体生成正确格式的工具调用（如函数名和参数）。

什么是人类参与（HITL）模式？

HITL 模式将人类监督与交互集成到智能体工作流中。智能体在关键节点暂停，征求人类反馈、批准、澄清或指导。

智能体系统为何需要 HITL？

主要原因：

• 安全与控制：高风险任务（如金融交易、发送官方信息）需人类核查智能体建议后再执行。
• 提升质量：人类可提供纠正或细致反馈，帮助智能体在主观或模糊任务中提升表现。
• 建立信任：用户更愿意使用可引导和监督的 AI 系统。

工作流中哪些环节应引入人类？

常见干预点包括：

• 计划审批：执行多步骤计划前。
• 工具使用确认：使用有现实影响或需付费的工具前。
• 歧义解决：智能体不确定如何继续或需更多信息时。
• 最终输出审核：向终端用户或系统交付结果前。

持续人类干预是否低效？

可能低效，因此关键在于平衡。HITL 应在关键节点实施，而非每一步。目标是建立人机协作，智能体负责大部分工作，人类提供战略指导。

什么是多智能体协作模式？

该模式构建由多个专职智能体组成的系统协同完成目标。与单一“通才”智能体不同，系统由“专家”智能体团队组成，每个智能体负责特定角色或领域。

多智能体系统有哪些优势？

• 模块化与专职化：每个智能体可针对特定任务优化，提升结果质量。
• 降低复杂度：将复杂流程拆分为专职角色，系统更易设计、调试和维护。
• 模拟头脑风暴：不同智能体可提供多元视角，促进创新和稳健解决方案，类似人类团队协作。

多智能体系统常见架构是什么？

通常包含协调者智能体（或称“管理者”、“指挥者”），负责理解整体目标、拆解任务并分配给专职智能体，收集结果后综合输出。

智能体间如何通信？

通信通常由协调者管理。例如，协调者可将“研究员”智能体的输出作为上下文传递给“写作”Agent。共享“便签板”或消息总线也是常见通信方式。

为何评估智能体比评估传统软件更难？

传统软件输出确定（同输入必定同输出），而基于 LLM 的智能体输出不确定且主观性强。评估需关注输出的质量和相关性，而非仅技术上的“正确”。

评估智能体性能有哪些常见方法？

指南建议：

• 结果导向评估：智能体是否成功实现最终目标（如“订票”任务是否正确完成），这是最重要的衡量标准。
• 过程导向评估：智能体流程是否高效合理，是否正确使用工具、遵循计划，有助于调试智能体失败原因。
• 人工评估：人类根据有用性、准确性、连贯性等标准为智能体表现打分（如 1-5 分），对面向用户的应用尤为重要。

什么是“智能体轨迹”？

智能体轨迹是智能体执行任务时的完整日志，包括所有思考、行动（工具调用）和观察。分析轨迹是调试和理解智能体行为的关键。

如何为非确定性系统创建可靠测试？

虽无法保证智能体输出的具体措辞，但可测试关键要素。例如，测试智能体最终响应是否包含特定信息，或是否成功调用某工具并传递正确参数。通常在专用测试环境下用模拟工具实现。

为智能体设计提示与 ChatGPT 提示有何不同？

智能体提示需创建详细的“系统提示”或章程，作为其操作说明。远超单一用户问题，需定义智能体角色、可用工具、应遵循的模式（如 ReAct 或规划）、约束及个性。

优质系统提示的关键组成有哪些？

通常包括：

• 角色与目标：明确智能体身份及主要任务。
• 工具定义：列出可用工具、功能描述及使用方法（如特定函数调用格式）。
• 约束与规则：明确智能体不得做的事（如“未经批准不得使用工具”，“不得提供金融建议”）。
• 流程指令：指导智能体应采用哪些模式，如“先制定计划，再逐步执行”。
• 示例轨迹：提供成功的“思考 - 行动 - 观察”循环示例，可显著提升智能体可靠性。

什么是“提示泄露”？

提示泄露指系统提示（如工具定义或内部指令）被智能体在最终响应中意外暴露给用户，可能造成困惑或泄露实现细节。可通过分离推理与最终答案的提示等技术防止泄露。

智能体系统未来趋势有哪些？

指南展望：

• 更自主的智能体：智能体更少依赖人类干预，具备自学习与自适应能力。
• 高度专职化智能体：可按需雇佣或订阅的专职智能体生态（如旅行智能体、研究智能体）。
• 更优工具与平台：更先进的框架和平台，便于构建、测试和部署健壮的多智能体系统。