在 RAG 系统中，检索质量的高低直接决定了回答的准确性，而检索的核心环节——将文本转换为向量并计算相似度——几乎完全依赖嵌入模型的能力。如果嵌入模型不能准确捕捉问题和文档片段的语义，后续无论生成模型多强大，都无法弥补“找错资料”带来的偏差。本节讨论嵌入模型的两大关键影响因素：基础能力与领域适配性，以及它们在真实场景中如何左右系统表现。
5.3.1 嵌入模型的基础能力
嵌入模型的任务是将文本映射到高维空间中，使得语义相近的文本在向量空间中也彼此靠近。一个基础能力强的模型，通常在以下几个方面表现优异：
- 语义理解深度：能区分“苹果很好吃”和“苹果发布了新手机”中的“苹果”是指水果还是公司；
- 跨表达泛化能力：问题用词和文档用词不完全相同时，仍能匹配。比如用户问“怎么退钱”，能召回到文档中的“退款流程”；
- 长文本处理健壮性：对于几百字的段落，能合理压缩语义，不因文本稍长而丢失关键信息。
当前主流通用嵌入模型（如 text-embedding-3-large、bge-large-zh 等）在公开基准测试中表现不错，但落到具体应用时仍可能出现明显短板。例如，在中文法律文书中，通用模型容易混淆“应当”和“可以”的法律效力差异，导致检索到的条款并不适用于当前场景。
实用建议：在项目初期应直接用真实业务数据构建小规模测试集，评估候选嵌入模型的检索准确率（如 Recall@K），而不是仅依赖公开榜单。例如，准备 50 个真实问题和对应标准文档片段，看 top-5 召回能否覆盖正确答案，这个指标比通用分数更能预测实际效果。
5.3.2 领域适配性：通用模型不够用
通用嵌入模型通常基于大规模互联网语料训练，其语义空间偏向日常表达和通识知识。当 RAG 应用于专业领域（如医药、法律、金融、工业制造）时，会遇到两个突出问题：
- 术语歧义与陌生词
专业术语在通用模型中可能被映射到错误语义。例如“PCR”在分子生物学中是“聚合酶链式反应”，在通用模型里可能更接近“塑料回收”或“汽车部件”。如果文档大量使用缩写、行业黑话或专有名词，通用模型的向量表示往往不够精准，导致检索召回许多不相关内容。
- 语义对比粒度不符
通用模型擅长捕捉主题级相似，但专业场景常需要细粒度区分。比如在售后服务场景中，用户问“屏幕有亮点”应召回“亮点检测标准与退换政策”，而不是泛泛的“屏幕参数说明”。领域适配性差的模型可能因宽泛语义相近而优先召回说明书而非故障处理流程。
应对领域不适配，常见策略有以下几种：
- 领域微调嵌入模型：使用大量领域内相关文本对（如问题-文档对、同类文档对）进行对比学习微调，使模型在该领域的语义空间中对齐。这种方法效果直接但需要一定量的标注数据，通常几千到几万对即可看到明显提升。实践中，可以从历史客服对话日志自动构建训练数据。
- 使用专门领域的预训练嵌入模型：例如医疗领域的 PubMedBERT 嵌入、法律领域的 LawBERT 嵌入，或者多语言金融嵌入模型。若已有预训练好的领域嵌入，可优先尝试，省去微调成本。
- 混合嵌入与重新排序（Rerank）：用通用模型做第一轮粗召，再用一个擅长理解领域细微差别的交叉编码器（如经过领域微调的 reranker）进行精细排序。这样可以在成本和效果间取得平衡。
- 增加自定义词典或预处理：在文本向量化前，对专有名词和缩写统一替换为完整表述，例如把“PCR”扩展为“聚合酶链式反应（PCR）”，帮助通用模型更好地理解。
5.3.3 真实案例：从通用到领域的提升
某半导体公司的内部知识库包含大量技术文档，使用通用中文嵌入模型后，员工提问“DRAM 刷新时序”时，top-5 召回结果里混杂了 NAND Flash 的说明和通用内存科普。经分析，模型没有区分“刷新”在不同存储技术中的不同含义。
团队随后利用公司历年技术手册和专业术语表，构造了 8,000 组“问题—对应文档段落”对，对一个开源通用嵌入模型进行领域微调。微调后，在同一测试集上的 Recall@5 从 62% 提升到 89%，检索结果几乎都能准确覆盖目标文档。虽然微调需要约两天的 GPU 时间和人工整理数据，但换来的是下游回答准确率的大幅跃升，后续维护只需随着新术语出现定期更新训练集即可。
5.3.4 选择与适配的实用原则
- 先通用后领域：项目初期先用通用最强嵌入模型跑通全流程，明确检索瓶颈是否确实源于嵌入质量，避免过早优化。
- 关注多语言和跨语言需求：如果文档包含中英文混杂，优先选择支持多语言的嵌入模型（如 multilingual-e5），减少切换成本。
- 定期评估与更新：知识库内容扩充后，原有的嵌入模型可能不再是最优。建立定期小样本评测机制，监控检索效果衰减。
- 不要忽略文本预处理：文档切分前进行清洗（去页眉页脚、标准化单位、解析表格）比换更强嵌入模型有时带来更大提升。
嵌入质量是 RAG 的“地基”。哪怕上层生成逻辑再精巧，地基不牢也会导致系统整体失准。针对业务场景选好、调好嵌入模型，是保证整个 RAG 管线可靠性的关键一步。