精选国内外AI工具, 查看最新收录
AI百科

RAG 是什么 一篇看懂检索增强生成的原理流程与应用

干干AI 2026-11-11 约 9 分钟读完
RAG 是什么 一篇看懂检索增强生成的原理流程与应用

当用户询问大模型“公司最新的内部报销规则是什么”或“产品手册中某项功能该如何配置”时,模型未可能给不出准确的答案,即使训练时见过类似的资料,也可能已经过时或者不匹配。RAG(Retrieval-Augmented Generation,检索增强生成)正是为解决这一问题而出现:它可以先从可信资料中找出与问题相关的内容,再把这些内容连同问题交给大模型生成回答。这样,大模型不再只依赖训练记忆,而是能够“带着参考资料作答”。

rag-shi-shenme-cover

RAG 到底是什么?

RAG 的中文名称是检索增强生成。它不是一种单独的大模型,而是一套把“信息检索”和“内容生成”连接起来的工具。用户一般提出问题后,系统会先去企业文档、网页、产品资料、数据库或知识库中检索相关片段,再让大语言模型依据这些片段组织答案。一个成熟的 RAG 系统通常还会返回引用来源、知识最新更新时间或原文链接,方便用户核验。

那么就可以把 RAG 理解成给大模型配备了一个可随时查阅的资料库。模型负责理解用户提出的问题、归纳用户想要的重点和生成自然语言;知识库负责提供最新、私有或专业的信息。两者分工后,企业和用户也不必每次更新制度、产品或文档就重新训练模型,也能让 AI 使用这些新内容回答问题。

RAG 这一术语来自Lewis 等,Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks,NeurIPS 2020权威文档研究说明。该研究表明将预训练模型的参数化知识与可检索的外部非参数化进行记忆结合,可以运用于知识密集型问答和生成任务场景。

这就解释了为什么企业使用 RAG 时,应把文档来源、更新时间和检索证据纳入回答的链路:外部知识进行更新的时候,回答的依据也能够被追溯到。

RAG 的核心流程是怎样的?

一套常见的 RAG 流程可分为“知识准备”和“在线问答”两部分。知识准备阶段先收集 PDF、Word、网页、FAQ、表格或数据库等可以承载着信息片段的工具进行记录,然后对文本进行清洗、去重并按照合适的长度切分成多个片段。每个片段会被转换为一组能够表达语义的数字向量,这个过程通常称为 Embedding(向量化)。向量与原始文本、标题、时间、权限等元数据一起存入向量数据库或搜索引擎。

在线问答的阶段,系统也会把用户问题向量化,然后从知识库找出语义上最接近的片段。找到的内容往往还要经过 Rerank(重排序),从“可能相关的内容”进一步筛选成“最接近的内容作为答案依据”的几段。最后,这些答案依据连同用户问题都被放进提示词中交给大模型,模型据此生成有上下文的回答。

rag-gongzuo-yuanli

为什么文本切分 Chunk 很重要?

如果文档切得太长,检索结果就会夹杂大量无关的内容,占用上下文窗口大小;如果切得太短,又可能把完整规则、步骤或因果关系等重要内容给他拆散掉。合适的 Chunk 应该围绕一个清晰语义单元,例如一个详细的产品功能说明、一条详细制度规则或一个问答。对于有标题层级的文档,保留标题、章节名称和前后关联内容等操作,通常都能明显提高检索质量。

向量检索是不是唯一的选择?

不是。向量检索最擅长理解的知识是“语义的相近”,但对产品型号、金额、日期、精确条款和专有名词,有时关键词检索更准确和可靠。因此很多 RAG 系统会使用混合检索:一部分结果来自关键词匹配,另一部分来自语义向量,再通过重排序模型进行整合。对于企业资料,还应增加权限过滤,规则过滤,确保该权限员工下只能检索到自己有权查看的内容。

RAG、提示词和微调有什么区别?

提示词工程主要解决“如何让模型按你指定的方式回答”,例如规定语气、格式、角色与输出字段;它不能自动给模型补充大量不断更新的外部知识。微调则是通过特定的样本去调整模型的行为风格和任务能力,适合分类、抽取、固定格式生成等重复性的任务,同时也意味着成本更高,不适合频繁写入最新知识。

RAG 的核心在于把外部资料实时带入回答。它尤其适合知识变化快的、内容量大的、需要引用依据来源或包含企业私有信息的场景中。实践中,一般三者进行组合使用:提示词约束回答方式,RAG 提供事实依据,微调用于强化稳定的任务能力。不要把它们当成互相替代的单选项,应该根据问题类型分工选用不同的工具。

RAG 能用在哪些场景?

企业知识库与内部问题问答。 员工可自主查询制度、流程、产品文档、培训材料和项目资料等内部知识库,系统在回答时展示资料出处,可以减少反复询问的成本。

智能客服与售后支持。 RAG 可从帮助中心、服务政策、商品说明和历史工单中提取信息,为客服提供回答草稿预览或让用户自助查询。高风险或涉及退款、隐私、合约的操作还是会交给人工进行确认。

产品与销售助手。 面对不同版本的产品手册、报价单和竞争资料,RAG 可以根据授权的内容快速提炼卖点、配置差异和适用场景等产品信息,避免销售人员使用过期资料以此来对客户进行更好的产品讲解。

数据与研究问答。 将结构化数据说明、专业研究报告和来源可信文档纳入知识库,RAG 就能帮助用户定位并查询相关的内容并生成简单摘要。需要注意的是,涉及数据计算的问答应该调用数据库或分析工具验证数值,而不是只依赖语言模型进行推断数据计算。

rag-yingyong-changjing

如何判断一个 RAG 系统是否好用?

不能只看回答是否流畅,更要区分“找资料准确”和“回答的答案准确”两件事。可以从四个方面来进行评估:第一,检索结果是否真正包含真实的答案依据;第二,回答是否忠实于来源资料,是否产生无依据的过度补充;第三,引用是否准确、可以打开且权限过滤正确;第四,遇到资料不足时,系统是否明确说“没有找到足够来源的依据”,而不是编造结论。

建设RAG初期的时候建议选择一个边界清晰、文档建设质量较好的场景,例如内部员工手册、单一产品线 FAQ 或售后知识库。先建立可量化的测试题集,包括简单事实题、多条件问题、无答案问题和权限问题。持续记录命中率、引用准确率、人工修订率与用户满意度,再优化需要切分的策略、检索的方法和提示词问题。

NIST的Artificial Intelligence Risk Management Framework AI RMF 1.0文档表明,应该将可信性与风险管理纳入 AI 系统的日常设计、开发、使用和评估当中。映射到 RAG 落地的时候,除了追求回答流畅,记录知识的来源、设置访问的权限、测试无答案问题,还应该在高影响场景下保留人工复核。

RAG 常见的三个误区

第一个误区是“把所有文件没有分类和筛选全部直接丢进知识库”。例如扫描件、重复文档、失效制度和格式混乱的表格会直接影响检索质量,因此知识治理是 RAG 落地的前提。第二个误区是“检索到内容就一定正确”。检索只能提供候选来源资料,最终还需重排序、引用校验和回答约束来进行回答。第三个误区是忽略权限与更新的机制。知识库应标记资料来源、更新时间、适用范围与访问权限,并在文档更新后及时重新索引。

结语:RAG 让大模型的回答更贴近真实的知识

RAG 的意义不在于让模型记住更多的知识,而在于让模型能够在需要的时候检索到正确、可追溯且经过授权的来源资料。对企业而言,它把分散文档转化为可对话的知识服务;对用户而言,它让 AI 回答从“听起来感觉合理”走向“有依据、可验证”的回答。理解 RAG 的流程、边界和评估方法,是搭建企业知识库、智能客服与下一代 AI 应用的重要基础。

常见问题 FAQ

RAG 会完全消除大模型幻觉吗?

不会。RAG 可以降低因知识缺失造成的幻觉,但如果检索结果错误、资料过期、提示词约束不足或模型错误归纳,仍可能出现不可靠回答。因此应该展示引用来源,并为重要场景设计人工审核与拒答机制。

RAG 需要向量数据库吗?

多数场景会使用向量数据库或支持向量能力的搜索系统,但是不是唯一的选择。文档数量较少、查询条件明确时,传统搜索或数据库查询也可能更简单有效;复杂知识库则常使用混合检索与重排序。

RAG 和 AI Agent 可以一起使用吗?

可以。RAG 为 Agent 提供可信的知识来源;Agent 则可以根据任务决定什么时候检索、应该查询哪些系统、如何整理出准确的结果。对于需要多个步骤执行的任务,两者结合通常比单纯问答更实用也跟符合业务落地。

数据来源

  1. Lewis 等,Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks,NeurIPS 2020:https://papers.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html
  2. NIST,Artificial Intelligence Risk Management Framework AI RMF 1.0:https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10

MORE /相关资讯

会员留言

推荐工具↑ ↓ 选择 Enter 打开