即使知识库内容准确、检索环节也命中了相关片段，RAG 系统仍可能面临一种棘手情况：用户问了一个知识库覆盖不到的问题，或者检索到的材料与问题仅有边缘相关性。 此时如果放任模型强行作答，幻觉就会趁虚而入——模型会“脑补”一个看似合理但毫无根据的答案。因此，在 RAG 系统中定义清晰的“拒答边界”，是避免幻觉的最后一道防线。
1. 为什么需要明确的拒答边界
大语言模型的本能是“有问必答”，即使在信息不足时，它也会根据训练数据中的语言习惯拼凑出回答。这种行为在闲聊场景中无伤大雅，但在企业知识问答中可能造成严重后果：
- 员工询问“新办公区的停车位数量”，知识库中并无此信息，模型却可能编造一个数字；
- 客户询问“某款产品是否支持特定协议”，相关技术文档未提及，模型却可能给出“应该支持”的猜测。
这些回答看似通顺，实则没有任何依据。用户若信以为真，轻则增加沟通成本，重则导致错误决策。因此，系统必须有能力说“我不知道”，而且要说在正确的时机。
2. 如何定义拒答边界
拒答边界的核心是判断“检索到的信息是否足以支撑一个可信的回答”。这个判断可以基于以下几个信号综合判定：
（1）检索相关度阈值
每次检索都会返回每个片段的相似度分数。如果最高分数仍低于预设的阈值，说明知识库中没有与问题强相关的内容。例如，在一个 0~1 的余弦相似度体系中，可以设定 0.5 为最低门槛——低于此分数则触发拒答。
（2）信息覆盖度检查
有时检索会命中一些“看起来沾边”的片段，但这些片段实际上并未包含回答所需的关键事实。例如，用户问“退货邮费谁承担”，检索到的片段可能只讲了“退货流程步骤”，却未提及邮费。此时即使相似度分数尚可，也需要更细粒度的判断：
- 通过特定提示词，要求模型在生成回答前先判断“给定材料是否足以回答问题”。
- 如果模型自判为“不足以回答”，则转入拒答逻辑。
（3）不确定性表达检测
如果暂不启用复杂的准入逻辑，还有一种更简便的后处理方式：检测回答中是否出现了高不确定性的关键词。例如，“可能”“大概”“也许”“据推测”等。如果这些词频繁出现，且对应片段中并无明确依据，可以视为隐式拒答，提示用户该回答需人工核实。
3. 实现拒答的几种实用方式
方法一：相关度分数阈值拒答
最简单的实现：在检索完成后，若最大相似度 < 阈值，直接返回预设的拒答话术，如：
“抱歉，我在当前知识库中未找到与您问题相关的信息。建议您联系对应部门获取最新资料。”
这种方式实现成本最低，不需要额外判断步骤，适合知识边界明确、检索质量稳定的场景。
方法二：模型自反射判断
在提示词中增加一个自检步骤，让模型先回答“是/否”以判断材料是否充分，再决定后续生成。
示例提示词结构：
你是一个基于内部资料回答的助手。请先阅读以下资料，然后判断资料是否足以回答用户问题。
如果足以回答，请用资料内容生成回答，并注明来源。
如果不足以回答，请只回复：“【资料不足】”。
---
资料：
{检索结果}
---
用户问题：{用户问题}这种方式可以处理“检索到但不全面”的复杂情况，对模型能力的依赖性较高，但通常在实际部署中效果不错。
方法三：事后过滤与降级
在系统设计上，也可以让模型先生成回答，再根据检索片段进行事后校验。但这种方式成本较高，且可能在用户看到答案后才被纠正，体验不佳。更推荐的做法是前置判断。
4. 一个真实的拒答示例
某公司 RAG 知识库包含产品技术手册和内部培训资料，但不涉及销售策略。
- 提问：“明年我们的主打产品定价区间大概是多少？”
- 检索结果：命中了产品功能描述和当前售价，但没有任何关于明年定价的片段，最高相关度分数为 0.42（阈值 0.6）。
- 系统响应（分数阈值拒答）：“在现有资料中未找到关于明年定价的信息。请关注后续官方公告。”
用户得到的是一个明确的“没有答案”，而不是一个可能错误的猜测。
5. 设计拒答边界时的注意事项
- 阈值需要动态调优：不同知识库的内容密度、嵌入模型的表现差异很大，阈值应根据实际测试结果逐步调整，并在上线后持续监控。
- 拒答不等于冷冰冰：可以在拒答话术中引导用户如何获取答案（例如“请联系人事部”或“请查阅XX公告”），既诚实又有建设性。
- 记录日志用于改进：分析被拒答的高频问题，可以反哺知识库建设。如果某类问题被频繁拒答，说明知识库可能存在缺口，需要补充对应文档。
定义好拒答边界，就相当于为 RAG 系统装配了“诚实的刹车”。它能有效阻止模型在知识边界之外的臆测，确保每一次回答都建立在可追溯的真实信息之上。这一机制与前面介绍的溯源、实时更新一起，构成了 RAG 事实准确性的完整保障体系。