Agentic RAG
智能体式 RAG 由 AI 智能体负责检索:智能体会规划搜索、选择工具、检查返回结果,并继续搜索,直到能够作答。
智能体式 RAG 是一种检索增强生成(RAG),其中AI 智能体(即能够规划并循环调用工具的大型语言模型(LLM))会决定是否检索、搜索哪些来源,以及检索结果是否足以用于回答。标准 RAG 执行一次固定流程:嵌入问题、获取排名靠前的段落、生成答案。智能体可以将问题拆分为子问题,将其中一个发送到文档索引,另一个发送到 SQL 数据库或网络搜索;发现结果偏离主题后,还能改写查询并再次搜索。2025 年关于智能体式 RAG 的综述将这些行为归纳为四种智能体设计模式:反思、规划、工具使用和多智能体协作。
智能体式 RAG 的工作原理#
模型通过函数调用使用检索工具。每种工具(例如对文档进行向量搜索、数据库查询或网络搜索)都由名称和参数架构描述;模型需要使用工具时,会发出结构化调用。模型上下文协议(MCP)为智能体连接这类工具提供了标准方式。控制循环遵循 ReAct 模式,交替执行推理步骤和操作:
“本季度哪些供应商的延迟交货次数高于上季度?他们的合同允许哪些处罚?”这样的问题说明了循环为何重要。单次检索会将整个问题转换为嵌入,并返回泛泛提及延迟交货的合同段落。智能体会先查询交付数据库,统计各供应商的交付次数;然后,对交付次数增加的每家供应商分别搜索合同索引,并在答案中综合这两个来源。
工具不局限于文本。如果答案取决于摄像头此刻拍摄到的内容,智能体可以调用 Ultralytics YOLO26 模型作为工具:对最新帧执行预测会返回检测到的所有物体,而 results[0].summary() 会将检测结果转换为字典列表,其中包含类别名称、置信度和边界框坐标,供智能体像读取其他检索结果一样读取。
智能体式 RAG 与相关方法#
- 标准 RAG:通过固定管线针对每个问题检索一次,延迟和成本都较低且可预测,适用于一两个段落就能回答的问题。
- Self-RAG 与纠正式 RAG:Self-RAG(2023)通过训练模型输出反思 token,让模型决定何时检索并评估自己的输出;纠正式 RAG(2024)则增加了检索评估器,在检索文档评分较低时触发网络搜索。两者都只是在其他方面固定的管线中加入一种智能体行为。
- GraphRAG:从依据文档构建的知识图谱中检索实体、关系和社区摘要。智能体可以将图查询作为一种工具调用。
- 智能体工作流:多步骤 LLM 系统所属的更广泛类别,智能体式 RAG 是其中专注于查找信息的一种。
- 深度研究智能体:针对一个问题执行大量搜索的智能体式 RAG,通常由多个智能体分工完成。在 Anthropic 的多智能体研究系统中,Claude Opus 4 主智能体会将子任务交给并行运行的 Claude Sonnet 4 子智能体;在 Anthropic 的内部研究评测中,该系统的表现比单个 Opus 4 智能体高出 90.2%。
实际应用#
- 企业研究助手:回答涉及数据仓库、文档存储和网络的综合问题,例如将内部销售数据与竞争对手公布的业绩进行比较。
- 客户支持:智能体会在一个系统中查询订单状态,在另一个系统中检索退货政策,并在回复前判断是否适用退款。
- 制造业故障排查:助手会检索故障报告中所指机器的维护日志和手册页面;如果手册未说明该错误代码,还会搜索以往的事故工单。
- 智能体编程:编程智能体会搜索代码仓库、读取找到的文件,并利用过程中发现的名称再次搜索,然后再修改代码。
成本与失效模式#
每增加一个步骤就会增加一次 LLM 调用,因此智能体式 RAG 比单次检索更慢、成本也更高。Anthropic 对其多智能体研究系统的分析发现,智能体通常使用的 token 数量约为聊天交互的 4 倍,多智能体系统则约为 15 倍。智能体还会出现固定管线不会出现的问题:反复执行相似查询、未找到关键文档就停止、调用错误的工具,或将早期错误带入后续所有步骤,最终产生自信的幻觉。生产系统会限制步骤数量、记录完整执行轨迹,并通过智能体评估对整个轨迹评分。Anthropic 的分析发现,仅 token 用量就能解释 BrowseComp 浏览基准上 80% 的性能差异。










