在 RAG 系统中，“检索”这一环决定了模型能看到哪些信息，进而直接影响生成质量。谈论检索精度时，有三个相互关联的核心因素值得深入理解：召回率、Top-K 数量、排序准确性。它们共同决定回答是否基于正确且充分的事实依据。
5.4.1 召回率：是否找到了该找到的片段
召回率衡量的是：在所有与问题相关的文档片段中，检索环节成功找回了多少。低召回率意味着关键信息根本没被检索到，模型再好也“巧妇难为无米之炊”，只能凭不完整甚至无关的内容作答，极可能导致事实错误或回答笼统。
影响召回率的因素主要包括：
- 嵌入模型与领域匹配度：通用嵌入模型在特定行业术语上可能表现不佳，导致相关片段与问题的向量相似度偏低，被遗漏。
- 文档切分方式：切得过细可能丢失上下文，使片段本身语义不完整，难以被准确匹配；切得过粗则可能稀释关键信息的向量表示。
- 搜索策略限制：仅靠向量相似度搜索，可能在长尾或具体细节问题上漏掉关键词命中但语义距离稍远的片段。
实用提升手段：
- 引入混合检索（向量相似度 +关键词匹配），对特定术语、编号、代码等有奇效。
- 适当缩小 chunk 大小，但同时保留重叠，平衡完整性与精确度。
- 对检索结果进行人工抽检，统计“漏召回”的比例，有针对性地调整嵌入模型或切分策略。
5.4.2 Top-K 数量：该喂给模型多少材料
Top-K 指的是从检索结果中选取排名最靠前的 K 个片段，放入生成模型的上下文。这个数字看似简单，实操中却是个微妙的平衡：
- Top-K 太小（如 K=1~2）：可能遗漏支撑完整答案所需的多处信息，回答片面甚至错误。特别是一些答案需要综合多个文档才能得出时，小 K 值会直接造成事实缺口。
- Top-K 太大（如 K=8~10）：上下文窗口被大量不相关或低质量片段占据，不仅浪费 token 成本，还可能引入噪声，干扰模型判断，甚至诱发幻觉。模型有时会“被带偏”，基于不相关的片段硬凑答案。
如何选择合理的 Top-K：
- 观察典型问题所需的信息分布。若答案通常集中于 1~2 个段落，K=3~5 即可；若需综合多条制度或跨章节信息，K 可适当增大到 6~8。
- 结合相关性阈值：不仅取固定 K，而是设置相似度下限，如“取 top-10 中分数 >0.7 的片段”，既避免噪声又保证足够信息。
- 对成本敏感的场景，可以先用较高 K 召回，再用轻量级重排序模型（reranker）提纯最终的少量片段。
5.4.3 排序准确性：最好的片段是否排在最前面
检索到的 K 个片段通常按相似度从高到低排列。排序准确性指的是：真正最能支撑答案的片段是否被排在了靠前的位置。这一点被很多实践团队低估，但它对最终生成质量影响极大，原因有二：
- LLM 对位置敏感：模型往往更“重视”开头和结尾的上下文，中间的片段可能被忽略。若最关键的信息排在靠后的位置，模型可能根本不予重视，甚至给出偏移答案。
- 噪声靠前会带偏方向：如果排名第一的片段与问题部分相关但实际不是最佳答案，模型很可能以它为主要依据生成欠佳的结果，即便后面有更准确的片段。
常见问题与优化：
- 单纯依赖初始检索的相似度排序不一定精准。一个思路是引入重排序：先用相对宽松的方式多召回一些片段（如 K=20），再用计算量稍大但更准确的交叉编码器模型对这些片段重新打分排序，最终取 top-N 送入生成。
- 在实际测试中，重排序（rerank）常能使答案的事实准确度大幅提升，代价仅为几十毫秒的额外延迟和很低的计算负担。
- 定期通过人工或自动化评估（如 RAGAS 的 faithfulness、relevancy 指标）检查排序质量，发现排序错误时可通过调整重排序模型或嵌入模型来弥补。
5.4.4 三者联动与调优思路
这三个指标不是孤立的，而是呈现“链条式”影响：
低召回率 → 即使排序再准，可用信息也不足。
Top-K 过大且排序不准 → 噪声可能淹没有效信息。
排序不准 → 即使召回率和 Top-K 合理，模型也可能“看错重点”。
真实场景示例：
一个内部技术问答系统，某问题“显卡驱动安装失败错误代码 43 怎么解决？”初期设定 Top-K=3，检索召回三篇文档，但其中一篇是关于错误代码 43 的历史版本说明，排在第一位；真正有效的解决方案排在第三位。模型回答时主要依据第一篇，给出了过时的步骤。优化后，加入交叉编码重排序，将解决方案的正确段落提升至首位，在不改变 Top-K 的情况下回答准确率显著提升。
务实调优步骤：
- 先保障召回率：通过人工抽检、关键词覆盖测试，确保相关片段不要漏掉。
- 再定 Top-K 范围：根据问题复杂度和成本容忍度，试验不同 K 值，找到信息完整性与噪声控制的最佳点。
- 最后强化排序准确性：评估检索结果的 MRR（平均倒数排名），必要时接入重排序模块，让关键片段始终靠前。
- 建立持续监控：记录检索详情和用户反馈，定期回溯低分回答的检索链，形成“问题发现 → 检索调优 → 效果验证”的闭环。
检索精度的提升是一项需要持续打磨的工作，但它直接塑造了 RAG 系统的可信度与实用性。在理解了这些基础指标的作用后，下一节我们将进一步讨论如何评估和优化整个检索增强生成管道。