2026-09-06

Agentic RAG —— AI 知识库的「自查自纠」:答错了不硬扛,回头再查一遍

普通 RAG 查一次资料就交卷,错了就错了;Agentic RAG 会自己审卷、发现依据不足、回头再查再答。今天从三张「纠错机制」设计图讲透它,再用 RAGFlow 在线 Demo 亲手跑一遍「检索 → 自查 → 再检索」的完整流程,最后回答那个 PM 最该问的问题:什么时候值得给知识库加一个「会思考的大脑」。

一

一·这个知识解决什么问题

知识库 AI 的三次「翻车」,都栽在同一件事上

只要你做过知识库问答、智能客服、文档助手,就一定见过这三幕:用户的问题明明很简单,AI 却答得离谱;更气人的是,它答错了还一脸笃定——既不认错,也不重查。问题不在「大模型不够聪明」,而在你给它搭的流程:传统 RAG 是一条单行道:查一次 → 拼上下文 → 生成答案 → 交卷,没有任何环节允许「回头」。RAGFlow 官方博客举过一个典型例子:用户问「我们三月财务计划的组合投资怎么样」,检索器却抓回了其他时间段甚至其他类型的计划——因为「三月 + 财务计划 + 组合投资」这几个词,光靠语义相似度根本锁不准。

场景一 · 答非所问:问题含糊,检索器抓错文档

用户说「那个方案现在怎么样了?」——「哪个方案?哪个时间?哪个团队?」用户脑中的上下文,检索器一无所知。一次性检索往往把「看起来像」的文档抓回来,而不是「真正对得上」的文档。结果就是答了一堆相关但不正确的内容。

场景二 · 强行硬答:资料不够,AI 照样编

检索回来的内容根本支撑不了答案,但流程已经走到「生成」这一步,模型只能硬着头皮答——这就是幻觉的最大温床:不是模型想骗你,是流程没给它「承认查不到」的出口。

场景三 · 一问跨多书:单次检索答不了「多跳问题」

「A 公司的 B 产品,和 C 公司的 D 产品,去年 Q4 哪家营收高?」要答这道题得先分别查两家财报、再对比口径——单次检索只能查一个角落,多跳推理(multi-hop)根本无从谈起。RAGFlow 博客把这类「跨文档推理 + 意图识别」列为 RAG 1.0 最致命的短板。

💡 一句话类比

普通 RAG 像「翻一次书就交卷的学生」:翻开哪页算哪页,写完就交,错了不回头。Agentic RAG 像「答完还自己核对一遍的学霸」:写之前先想清楚要查什么,写完检查依据够不够,觉得不对立刻回去再翻书,实在查不到就老老实实说「这题我资料不够」。评价标准从「会不会查」变成了「会不会发现自己查错了」。

一句话定义:Agentic RAG = 把「查资料 → 答题」从一次性动作,改造成一个循环:AI 自己决定查什么、检查答案有没有依据、不够就再查——直到有底气交卷,或者明说「查不到」。它解决的不是「检索更准」,而是「错了能回头」。

二

二·核心原理

从「查一次就答」到「边查边想」:流程上多了一只「复检的手」

传统 RAG 的流水线(RAGFlow 博客称之为 RAG 1.0)只有四步:切块 → 建索引 → 检索 → 生成。它简单直接,但每一步都「不可回头」。Agentic RAG(RAG 2.0 的核心形态)在中间插入了一个反馈环:生成之前先检查、检查不过就改写查询再查一轮。下面这张图是整篇文章的「地图」:

  传统 RAG(查一次就交卷):
    问题 ─▶ 向量检索 ─▶ 拼上下文 ─▶ 生成答案 ─▶ 交卷
                              (错了就错了,没有人回头)

  Agentic RAG(自查自纠循环):
    问题 ─▶ 意图分诊 ─▶ 改写查询 ─▶ 检索 ─▶ 拼上下文 ─▶ 生成答案
                ▲                                    │
                │          ┌────────────────────────┤
                │          ▼                        │
                │   自查:依据够吗?答案相关吗?      │ 不够 → 换查询/换渠道再查
                │          │                        │
                │          ├─ 够 → 交卷             │
                │          └─ 查了 N 轮仍不够 ─▶ 明说「查不到」,不硬编
                └──────────────────────────────────┘
核心区别不在「查得更多」,而在「多了一个允许回头的环」——每轮循环都花 token,所以分诊和上限缺一不可

三种主流「纠错机制」,对应三种团队风格

开源社区(开源 Notebook 合集 athina-ai/rag-cookbooks 里的 agentic_rag_techniques 目录)把这套思路沉淀成了三套可复制的模式,名字听着学术,本质都是「查资料团队的管理办法」:

① Adaptive RAG「分诊台」:先判断这题值不值得大动干戈

接到问题先「分诊」:简单问题直接答(不检索,省成本);中等难度查一次就答;复杂问题才启动多轮检索 + 推理。就像 114 接线员先判断你要查电话还是查天气,再决定派哪个科室。它的精髓恰恰是:大多数请求根本不进循环——这是 Agentic RAG 控制成本的第一道闸。

② Self-RAG「每题自检」:让模型在每个环节给自己打分

模型在检索前、检索后、生成后各自回答一个小问题:这题要不要查?查到的内容相关吗?答案有依据吗?任何一个环节打「不通过」就返工。就像学霸每道题都验算一遍:宁可慢,不可错。代价是每次自检都多烧一轮 token。

③ Corrective RAG「纠错专员」:检索完先质检,不行就换渠道

检索回来先做一道质检:这批资料质量行不行?不行 → 换关键词重查;再不行 → 换渠道(全文搜索、外网搜索兜底)。像秘书发现第一份资料不对,立刻换来源,而不是硬着头皮用。企业版常把它做成「内网库 → 外网兜底 → 转人工」三级防线。

全篇最重要的一个认知:Agentic RAG 不是「换个更聪明的模型」,而是「给流程装回环」——把一次性的「检索 → 生成」变成「检索 → 检查 → 再检索」的闭环。RAGFlow 官方博客的原话:当用户意图含糊时,系统应该「批评/评估检索结果、据此改写查询、再进行多跳推理」(criticize/evaluate retrievals, rewrite query accordingly)。开源科学文献问答工具 PaperQA2 更进一步:连「该不该引用这篇文献、该引用哪几篇」都交给 Agent 权衡,答案里逐条给出依据——这才是知识产品该有的样子:每一步都有据可查,错了能回头。

三

三·手把手:不写一行代码,亲眼看一次「AI 自查自纠」

路线 A:用 RAGFlow 在线 Demo 跑一遍完整闭环(0 代码)

RAGFlow 是开源 RAG 引擎(GitHub 90k+ ★),前端是可视化流程编排,后端已内置 Agentic 能力。官网在线版免安装,注册就能玩:

  • 打开在线演示
    浏览器访问 demo.ragflow.io,注册账号进入工作台(想完全本地跑也行:官方仓库提供 Docker 一键启动)。
  • 建一个知识库,传 2-3 份「有内容交集」的文档
    故意选内容有重叠的 PDF——比如两份不同版本的合同、两家公司的财报。交集越多,越容易复现「AI 搞混来源」的翻车现场。发布知识库后等解析、切块、建索引完成。
  • 选一个 Agentic 工作流模板
    RAGFlow 的流程编辑器里,节点包括查询改写(query rewrite)、检索、重排、判据等。找一个带「自主判断/多轮」性质的模板,而不是最简单的「单轮检索」模板。
  • 问一个「故意刁钻」的跨文档问题
    例如:「这两份文件里,对同一个指标的说法一致吗?不一致的话差在哪?」——这类问题单次检索几乎必翻车,正是观察 Agentic 循环的最佳样本。
  • 看流程日志,盯三个信号
    ① 查询有没有被改写(把含糊的问题补全);② 检索了几轮(不止一轮 = 触发了自查);③ 有没有「依据不足 → 再检索」的节点被点亮。看到这三个信号,你就亲眼验证了今天讲的原理。

路线 B:想在 ChatGPT / Claude 里 0 代码体验?用这条「自查 prompt」

不用任何平台,把下面这段直接粘进任意大模型对话框,它就会临时扮演「装了自查循环的 Agent」:

你是一个严谨的研究助理。回答前先做三件事:
1. 拆解:要回答这个问题,需要哪些资料?请逐条列出。
2. 标注:基于你已知的信息回答,但每条结论都标注
   「有把握 / 存疑 / 缺依据」。
3. 自查:如果「缺依据」的结论超过一条,先说明缺什么证据,
   再给出最接近的答案,并明确提示用户需要核实。
最后附一行:这份回答的证据缺口是什么。

拿一段之前翻过车的知识库问题试一遍,对比「不戴自查链」的版本——你会发现 AI 至少会承认自己证据不够,而不是硬编。这就是 Agentic RAG 最朴素也最值钱的价值:让错误被看见。

观察要点:自查循环的价值不在「答案一定对」,而在「答案自带置信度提示」——哪些结论可靠、哪些存疑、缺什么证据,全部摊在桌面上。产品上这叫「可解释的失败」,比「自信的错误」不知道高到哪里去了。

四

四·进阶玩法

已经会「自查」了,还能怎么玩?

① 查询分解与多跳问答:把大问题拆成小问题逐个查

「A 和 B 谁更划算?」先拆成「A 的价格」「B 的价格」「两者口径是否一致」三个子问题,分别检索再汇总推理。这是 RAGFlow 官方博客点名的 RAG 2.0 能力(multi-hop + query rewriting 的迭代检索)。对 PM 的意义:产品可以把「复杂查询」做成用户可见的进度——「正在拆解问题 → 正在查第一份资料…」,体验立刻高级一个身位。

② 混合兜底与「换渠道」:向量不行 → 全文 → 外网 → 人工

Corrective RAG 的标准姿势:语义检索(向量)抓不到 → 换 BM25 全文搜索试试 → 再不行联网搜索兜底。企业落地常做成三级防线:内网知识库 → 外网公开资料 → 转人工。每一级都对应明确的成本,第一级失败才烧第二级的钱。

③ 给「自查」配一个裁判:置信度门禁 + 模型路由

用 LLM-as-judge 给 Agentic RAG 的答案打「置信度分」:高分直接返回;低分自动转人工、或路由给更强(更贵)的模型再答一轮——和之前讲的模型路由直接联动。可视化搭建可以用 Dify(GitHub 154k+ ★,自带 Agentic RAG 工作流模板),PM 也能拖出原型。

进阶的代价:每多一层「检查」,就多一次模型调用——延迟和账单都会涨。进阶玩法的前提是先量化收益:这个产品里「答错」的代价有多高?值得为它多付多少延迟和钱?想不清楚,就用回 Adaptive 分诊:让 80% 的简单问题永不进循环。

五

五·方案对比/避坑:四种 RAG 怎么选、五个坑别踩

先选型:四条路线各有各的适用面

方案适用场景代价典型工具
传统 RAG 文档不多、问题直接、答案要求「够用就好」 成本最低、延迟最低,但错了不回头 LangChain / 向量数据库
RAG + 重排 检索结果「有对的但排太后」,想先提高排序质量 加一次重排调用,收益稳定 Cohere / BGE Reranker
GraphRAG 数据关系密集、多跳查询多(人物/组织/事件网络) 建图贵,切块与索引慢,稀疏数据白花钱 LightRAG / GraphRAG
Agentic RAG 答案质量要求高、问题多变、接受多花延迟换可靠性 延迟 2-10 倍、token 成本上涨、流程难调试 RAGFlow / Dify / PaperQA2 / LangGraph

五个坑,踩过任何一个都别急着怪模型

坑一:无脑「给 RAG 加 Agent」

简单问答套复杂循环 = 杀鸡用牛刀:延迟涨、账单涨,还可能越查越偏。Adaptive 分诊的精髓就是大多数请求根本不进循环——先让 AI 判断「这题值不值得大动干戈」。

坑二:循环没有上限

Agent 可以无限「再想想」,每轮都烧 token。必须设最大轮数(如 3 轮),超了就转人工或直接给最接近的答案。Retrieval 爆炸是 Agentic RAG 上线后最常见的隐性成本黑洞。

坑三:没评估就上线

流程越复杂,翻车越难排查。上线前先建一组金标准问题(务必包含模糊问题、跨文档问题、无答案问题三类刁钻样本),量出基线再说。评估库可参考 RAGAS、promptfoo。

坑四:迷信「自查 = 不幻觉」

自查能大幅降低幻觉,但「自我评价」本身也有盲区——模型可能自信地认为错答案有依据。最后一道闸仍然是置信度门禁 + 人工复核。

坑五:数据关系稀疏还硬上 GraphRAG

文档之间没什么关联时,图索引是纯负担。选型看数据形态,不是越高级越好——先量「多跳查询占比」,再决定要不要上图的复杂度。

关于榜单数字,多一分警惕:本周(2026-09-05)Kaitchup 专栏《The Era of Agentic Benchmaxxing》点破了一个行业现象:各家 Agent 榜单数字根本不是同一场考试——「它们是在部分披露、且彼此条件不同的设置下,对『模型 + Agent 系统』的对比」(provider self-reports),横着比经常是 apples-to-oranges。选型时别只看 headline 分数,要看它用什么评测工具、什么提示词、什么采样配置测出来的。

选型一句话:文档少、问题简单 → 传统 RAG;关系密集、多跳多 → GraphRAG;答案质量要求高、问题多变 → Agentic RAG;已有 RAG 想提质 → 先加「重排 + 一步纠错(CRAG)」,这是性价比最高的升级路径——不用上全套循环,先让流程「错得起」。

六

六·学习资源

以下资源按「先懂脉络、再动手、后深入」的顺序排列,全部可免费访问(链接已逐一验证):

  • 01
    RAGFlow 官方博客《RAGFlow Enters Agentic Era》
    「RAG 1.0 → RAG 2.0」演进脉络的第一手资料:四阶段流水线的四大局限、query rewriting / 混合检索 / 多跳推理等 RAG 2.0 要素。中英文皆可读,适合先建立全局认知。
  • 02
    athina-ai/rag-cookbooks(agentic_rag_techniques 目录)
    把 Adaptive RAG、Corrective RAG、Self-RAG、Agentic RAG 做成可直接运行的 Jupyter Notebook(含 DeepSeek + Qdrant + LangChain 组合),Open Source,照着跑一遍比读十篇文章都管用。
  • 03
    LangGraph 官方教程《Agentic RAG》
    用可视化状态图把「分诊 → 检索 → 打分 → 再检索」画成节点,是最接近「设计图」的一份官方教程——即使不写代码,看它的流程图也能理解 Agentic RAG 的骨架。
  • 04
    PaperQA2(Future-House/paper-qa)
    面向科学文献的 Agentic RAG 开源工具:`pip install paper-qa` 后一条 `pqa ask '问题'` 就能用,Agent 自动决定引哪几篇文献、逐条给依据。想摸「生产级」长什么样,看它最直观。
  • 05
    RAGFlow 在线 Demo
    第三节「路线 A」的实操场地:0 代码、免安装,上传文档 → 选 Agentic 工作流 → 问刁钻问题 → 看流程日志。最适合 PM 亲自验证「自查自纠」到底长什么样。

延伸彩蛋:本周 Kaitchup 专栏《The Era of Agentic Benchmaxxing》(2026-09-05)值得一读——它讲的是如何在「Agent 榜单满天飞」的时代保持清醒,和今天第五节「别迷信 headline 数字」互为印证。

📜

往期课程

加载中...