当知识库从几百条增长到几十万甚至上百万条文档碎片时，默认的向量索引配置往往无法同时满足速度、精度与资源消耗的要求。对索引策略进行针对性调优，并结合合理的分片部署方案，是让 RAG 系统在大规模场景下保持可用性的关键。本节介绍一些经过实践检验、可直接落地的思路和方法。
1. 索引类型的选择与参数均衡
向量数据库通常提供多种索引算法，大多围绕精度与速度的权衡展开。最常见的有：
- FLAT（暴力检索）：精确计算查询向量与每一个存储向量的距离，精度最高，但速度最慢。适合十万级以内的小型知识库，或对精度要求极为苛刻的场景。
- IVF（倒排文件索引）：先将向量聚类为若干中心，检索时只计算查询向量所在的部分聚类。速度显著提升，但可能漏掉部分相关片段。通过调整
nlist（聚类数）可以控制速度与精度的平衡。 - HNSW（分层导航小世界图）：一种图结构索引，检索速度快且精度较高，是业内常用的高性能方案。缺点在于构建索引耗时较长，且内存占用较大。
实用建议：
- 对于 10 万到 100 万量级的知识片段，HNSW 通常是性价比最高的选择，参数可先用默认值（如 M=16, efConstruction=200），再按需微调。
- 如果内存资源紧张，可改用 IVF 系列索引（如 IVF_FLAT 或 IVF_PQ），通过乘积量化（PQ）控制内存膨胀，同时接受小幅精度下降。
- 定期评估索引效果：抽取一批真实问题，对比不同索引配置下的召回率（是否命中正确答案所在片段），以此决定是否需要调整。
2. 关键索引参数的调优
不同的索引类型有各自的核心参数，理解并调校它们，可以用较少的代价获得显著的性能提升。
- HNSW 的
efSearch：控制检索时的搜索宽度。值越大，精度越高，但延时增加。经验上，设置 efSearch ≈ 2×efConstruction 可以在精度与速度间取得良好平衡。已知某团队将 efSearch 从默认 16 调至 64 后，Top10 召回率提升了约 8%，延时仅增加毫秒级。 - IVF 的
nprobe：决定检索时扫描的聚类数量。适当提高 nprobe（如从 1 升至 8 或 16）能明显减少漏召回，代价是扫描更多数据。建议针对业务数据集做步进测试，找到平台拐点。 - 向量压缩与降维：当单条向量的维度为 1024 或更高时，可考虑在嵌入阶段选择输出较小维度的模型（如 768 维甚至 384 维），既能加快计算，又可大幅节省存储空间。大部分场景下，轻度降维对精度影响微乎其微。
3. 分片部署：水平扩展知识库
当数据量持续增长，单台服务器无法容纳全量索引或无法满足并发性能要求时，分片（sharding）是自然的扩展方向。分片部署的本质是按一定规则将数据分散到多个节点上，各自维护本地索引，查询时由协调节点统一聚合结果。
常见的分片策略：
- 随机分片：写入时按哈希或轮询分配片段，能保证数据均匀分布，查询时需广播到所有节点（scatter-gather），适用面广，部署简单。
- 按业务域分片：例如将“技术文档”“财务制度”“员工培训”分别放在不同知识库或不同索引集群中。优点在于查询可以按意图路由到特定分片，大幅减少无效检索，且业务膨胀时可按需扩容特定分片，缺点是需要一套路由机制（如意图分类器）。
部署实践要点：
- 提前规划路由层：不论是随机分片还是业务分片，都应在架构中抽象出统一的知识库访问接口，将分片细节封装在后端。这样后续从单点扩展到分片集群时，业务代码无需改动。
- 设置合理的副本数：生产环境建议每个分片至少保留 1 个副本，保证节点故障时查询不中断。对于读多写少的场景，可增加副本用于分担查询压力。
- 监控分片负载：重点关注各分片的入库 QPS、查询延时和内存使用率。若发现某些分片负载远高于其他节点，可能意味着数据分配不均或业务热点，需要及时调整哈希策略或手动迁出数据。
- 合并查询结果：分片检索后，协调节点需将各节点返回的 top‑k 结果重新排序，取全局最优的 k 条。建议在实现时留出少量冗余（例如每个节点返回 1.2×k 条），以降低多节点结果合并后精度损失。
4. 混合方案：冷热数据分层
并非所有知识片段被查询的频率相同。为了进一步优化成本与性能，可以引入冷热分层策略：
- 热数据：近期频繁被检索、或属于时效性极高内容的片段，放在高配节点上，使用高精度索引（如 HNSW），保障最佳体验。
- 冷数据：历史归档或访问频次极低的内容，迁移到配置较低的节点，使用压缩索引（如 IVF_PQ），大幅降低存储与内存开销。
通过监控各片段在过去一段时间的查询次数，可以设置自动化策略定期调整数据归属，让系统在规模扩大的同时保持资源的高效利用。
向量索引调优和分片部署，属于典型“先跑通，再优化”的工程环节。初期可不做过度设计，待数据量或查询性能成为瓶颈时，再逐步引入上述方法。真实的经验是：用一个合理的监控体系驱动优化决策，远比照搬参数更有价值。