人人都会AI编程

1.4 RAG 技术定位:与大模型微调、Prompt 工程、Agent 的关系与区别

更新时间:2026-07-12

RAG 并不是大模型应用领域的“孤岛”,它经常与微调、Prompt 工程、Agent 这些概念同时出现,甚至在真实系统中常常结合在一起使用。理解它们各自解决什么问题、彼此之间如何协作,是正确选型和架构设计的前提。简单来说:这四种技术分别对应了“让模型更准、更听话、更自主、更懂业务”的不同维度,RAG 的核心定位是解决知识层面的准确性与时效性。

1.4.1 RAG 与 Prompt 工程:协同而非替代

Prompt 工程 是通过精心设计输入提示词的格式、措辞和示例,来引导模型产生期望的输出。它不改变模型本身,也不注入外部知识,只是优化模型对既有能力的调用方式。

  • 关系:RAG 和 Prompt 工程天然协同工作。在 RAG 的生成阶段,检索到的知识片段本身就是通过提示模板填入上下文的,提示词的设计(比如“请根据以下资料回答,并指出出处”)会直接影响生成质量。可以把 Prompt 工程看作 RAG 中“增强”环节的软件调优手段,二者不是替代关系,而是前后配合。
  • 区别:Prompt 工程不能凭空为模型补充它不知道的事实,它只能让模型更好地组织语言或遵循格式。如果知识不在模型训练数据内,再精巧的提示词也得不到正确答案。RAG 则从外部引入这些事实,Prompt 工程负责让模型用好它们。

实际体会:一个做了 RAG 的系统,如果把提示词写得很差(比如不给明确的指令),模型的回答仍然可能偏离主题或忽略检索到的内容。所以落地方案通常是 RAG 解决“知道什么”,Prompt 工程解决“怎么表达”。

1.4.2 RAG 与大模型微调:互补的知识注入路径

微调 是在预训练模型的基础上,使用特定领域的数据进行额外训练,将专业知识直接编码到模型参数里。这会改变模型的行为和知识分布。

  • 关系:RAG 和微调可以互补。微调擅长让模型掌握领域内的隐含规律、专业术语、特定格式和推理模式(比如懂法律文书的语言风格),而 RAG 擅长提供随时可变的显性事实。两者结合可以做到:模型通过微调“学会像律师一样思考”,再通过 RAG 检索具体的法条来作答。许多高质量企业系统会同时采用两者,微调优化“理解和表达”的基础能力,RAG 负责“事实供给”。
  • 区别
  • 知识更新:微调的知识更新需要重新训练或再次微调;RAG 只需更新知识库。
  • 事实可控性:微调无法保证模型一定记住训练数据中的每个细节,且可能产生混淆;RAG 明确限定回答基于检索片段,事实来源清晰。
  • 成本:微调需要大量高质量标注数据和 GPU 算力,适用于沉淀长期稳定的业务知识;RAG 成本集中在检索基础设施建设,适合频繁变化的事实性信息。
  • 透明度:微调后的模型是“黑盒”,难以解释某个答案具体来自哪份训练样本;RAG 天然可追溯引用片段。

一个典型分工:某医疗问答产品用大量医学教材微调基座模型,让它能理解医学术语和诊断逻辑;然后接入最新的药物说明书、诊疗指南作为 RAG 知识库,确保回答基于最新临床证据。微调负责专业表达,RAG 负责实时准确。

1.4.3 RAG 与 Agent:RAG 是 Agent 的重要工具之一

Agent(智能体)是指能够自主规划、调用工具、执行多步操作来完成复杂目标的大模型应用形态。Agent 通常拥有一个“大脑”(推理和决策能力),以及一组可调用的工具(如搜索引擎、计算器、API 接口、RAG 知识库等)。

  • 关系:RAG 可以看作是 Agent 生态中的一种基础工具,Agent 则是对多种能力的编排和调度。在 Agent 架构中,RAG 常被封装为一个知识检索工具,当 Agent 需要查询特定领域的文档信息时,就会调用它。例如,一个运维 Agent 收到“服务器报错 E1001 怎么处理”时,可能先调用 RAG 工具查询内部知识库,接着调用工单系统查询历史相似案例,最后整合给出建议,并触发重启操作。
  • 区别
  • 复杂度:RAG 通常解决“单轮问答”或“基于文档生成”的任务;Agent 处理多步骤、需决策和交互的复杂流程。
  • 自主性:RAG 的检索和生成流程相对固定;Agent 可以自主决定何时调用哪个工具、调用顺序、处理异常等。
  • 依赖关系:Agent 可以包含 RAG 作为其知识获取的组件,但 RAG 本身不具备 Agent 的规划和工具调用能力。

现实中的定位:多数企业第一步是构建 RAG 问答系统,验证知识检索的有效性;当业务需要将“查文档”与“查数据库”、“执行操作”串联时,才进一步引入 Agent 框架,将已有的 RAG 作为其中一个工具接入。RAG 是地基,Agent 是在地基上的多层建筑。

1.4.4 综合对比与选型建议

| 技术 | 核心作用 | 解决的问题 | 与 RAG 的关系 |
|------|----------|------------|---------------|
| Prompt 工程 | 优化输入输出引导 | 格式、风格、任务指令的遵循 | 协同,常用于 RAG 的生成环节 |
| 大模型微调 | 注入领域知识/能力 | 专业术语、推理模式、格式稳定 | 互补,微调提升“表达力”,RAG 提供“事实” |
| Agent | 自主规划与工具使用 | 多步骤任务、外部系统交互 | 包含,RAG 可作为 Agent 的知识工具 |
| RAG | 外部知识检索与增强生成 | 知识时效性、事实准确性、可溯源 | — |

一句话定位:RAG 专注于解决“模型不知道或知道不准”的问题,是打通企业自有知识与大模型表达能力的关键桥梁。它不是万能解法,但在事实密集型、知识高频更新的场景中,往往是最先被选用、也最容易被看到实效的技术组件。