RAG 之所以能“理解”问题并从海量文档中找到相关内容，并不是靠传统的字符串匹配，而是依赖一种称为语义空间映射的技术。其核心思路是：将文本转换成一组固定长度的高维数字向量，使语义相似的文本在向量空间中彼此靠近，语义无关的文本则彼此远离。 这种转换是 RAG 检索效果的根基，整个知识库的“检索”本质上就是在这个向量空间中寻找最近邻居的过程。
1. 从文本到向量：嵌入模型做了什么
实现文本向量化的工具叫做嵌入模型。可以把嵌入模型想象成一个高度压缩的“语义翻译器”，它读入一段任意的文本，然后输出一串几百到几千维的浮点数（比如 768 维、1536 维），这串数字就是该文本在高维语义空间中的坐标。
嵌入模型的核心能力是在大规模语料上预训练获得的。训练过程中，模型被要求将经常出现在相似语境中的词语或段落映射到相近的向量，将语境差异大的内容映射到远离的向量。这个训练过程不是靠人工标注，而是利用了海量文本中的共现统计和上下文关联，让模型自然而然地学会分辨语义。
举个例子：
- “如何办理离职手续”和“员工辞职流程是怎样的”，虽然用词不同，但含义几乎一致。嵌入模型会给这两句话生成几乎重合的高维向量。
- “如何办理入职手续”虽然也有“手续”和“办理”，但语义指向相反的人事流程，因此向量会与前一组有明显距离。
2. 高维向量的几何含义
为什么向量能表示语义？一个直观的理解是：高维空间中的方向和距离，承载了文本的抽象特征。
不妨做一个粗浅的类比。想象我们在二维平面上表示文本特征，但二维远远不够。实际上，语义空间通常有几百甚至上千个维度，每个维度并不对应某个具体的词语或概念，而是对应一个“语义轴”——一种抽象的、难以用单个词描述的意义倾向。
在这样高维的空间中，相关的话题会聚集成簇。“薪资福利”相关的文档会形成一个区域，“绩效制度”在另一个区域，而“请假流程”可能在两者之间。距离的衡量通常采用余弦相似度（即向量夹角的余弦值），因为它更关注方向是否一致，不受文本长度的影响。
3. 检索时的实际运用
整个映射机制在 RAG 的检索环节体现为以下步骤：
- 构建知识库索引（离线）
将业务文档切分成若干片段，逐段送入嵌入模型，得到每个片段的高维向量，存入向量数据库。这些向量就是知识内容的“数字指纹”。
- 处理用户问题（在线）
用户的提问同样经过嵌入模型，得到一个问题向量。
- 相似度搜索
向量数据库在已存储的海量指纹中，快速计算问题向量与每个片段向量的余弦相似度或欧氏距离，返回距离最近的 top‑k 个片段。
这个过程完全不同于关键词搜索。即使用户提问中的词语并未在文档中直接出现，只要语义相近，高维空间中的距离仍然会很近。例如文档中写的是“带薪年休假申请条件”，用户问“怎么申请工龄假”，传统关键词搜索可能毫无结果，但语义向量能将二者关联起来。
4. 一个可感知的例子
用一个简单的二维示图来说明。假设我们把几段文本压缩到二维空间（真实情况是数百维，这里仅为可视化）：
- 文档 A：“加班费按照基本工资的 1.5 倍计算” → 向量坐标 (0.9, 0.7)
- 文档 B：“周末加班补贴标准” → 向量坐标 (0.8, 0.6)
- 文档 C：“食堂今日菜单” → 向量坐标 (0.2, 0.1)
在图中，文档 A 和 B 紧密相邻，C 则远在另一侧。用户问题“加班报酬怎么算”的向量落点可能在 (0.85, 0.65)，刚好落进 A、B 的邻域，检索结果自然就是这两段加班相关的内容。
5. 实用要点
在实际构建 RAG 系统时，语义空间映射的质量直接决定检索上限。以下几点是反复验证过的经验：
- 选择合适的嵌入模型：通用模型效果通常不错，但特定领域（如法律、医疗）可能需要领域微调的嵌入模型，否则专业术语可能在通用语义空间中错位。
- 保持向量维度与成本平衡：维度越高，表示能力越强，但存储和检索开销也越大。768 维或 1024 维通常是性价比较高的选择。
- 分块策略影响向量质量：过短的片段可能丢失上下文，过长的片段会稀释关键语义。需要根据文档类型调整分块大小。
- 更新知识库要重新向量化：任何文档改动后，必须重新生成对应片段的向量并更新向量库，否则检索到的旧向量对应的内容就已经过时。
语义空间映射使得机器对文本的理解从字面提升到了概念层面。正是这层转换，赋予了 RAG 跨词语、跨表达的语义联想能力，让知识检索不再是僵硬的关键词匹配，而更像人类“记起相关事情”的方式。