RAG 知识库回答不准确怎么办？按 7 步定位问题

RAG 知识库回答不准确时，先判断错在什么环节，再改对应环节。模型回答错，不一定是模型本身的问题：知识源可能过期，文件解析可能漏掉表格，检索可能找错片段，排序可能把弱相关内容放在前面，生成阶段也可能把正确资料解释错。依次检查七个环节，通常比同时改模型、提示词和切分参数更容易定位原因。

这套排查方法适合已经接入企业文档问答、客服知识或内部助手的团队。若问题需要查询实时订单、库存、账户或工单状态，单靠静态 RAG 知识库通常不够，应评估接入受控业务数据接口，而不是把所有失败都归为“幻觉”。

一、先建立能复现问题的测试样本

把用户报告的错误问题原样记录下来，补充预期答案、权威来源、适用范围和发生时间。再按问题类型整理一组常见问题、同义问法、边界问题和资料中没有答案的问题。没有“正确答案和应引用资料”，团队就无法区分检索失败与生成失败，也无法判断修复有没有作用。

同一问题在版本更新前后可能有不同答案，因此样本要带来源版本或有效日期。测试时尽量固定知识版本、检索配置和用户权限；否则一次得到不同答案，无法确认到底是变更、随机性还是修复造成的。

二、检查知识源是否完整、有效且一致

先打开被引用的原始文件，确认答案确实存在、内容没有过期、术语和适用条件清楚。重点检查同一主题的多份制度、旧版本、附件、邮件和 FAQ 是否相互冲突。若权威资料本身缺失或有矛盾，优先请业务责任人补齐并确认口径。

尤其注意表格里的参数、脚注、例外条件、适用地区和时间范围。纯文本抽取可能丢掉表头或合并单元格关系；多个产品型号的说明如果离开上下文，也可能被错误组合。先核对来源，再评估系统处理，而不是要求模型从模糊材料中猜测。

三、验证解析结果有没有丢字、错位或结构断裂

对照系统实际抽取出的文本与原文件，检查扫描页 OCR、表格、列表、标题层级、页眉页脚和特殊符号。若原文里“不可超过”的否定词被漏掉，或表格中的型号和参数被拆开，后续检索和生成再强也难以得到可靠答案。需要时修复源文件或调整解析方式。

四、检查切分是否保留了回答所需的上下文

过小的知识片段可能只有一个数值，却没有对象、单位或前置条件；过大的片段会混入多条不相关内容。可查看召回片段是否带有标题、条款编号、适用对象和相邻解释，再结合真实问题调整切分边界。切分策略要用本企业文档测试，不存在适用于所有资料的固定长度。

五、单独检查检索召回，不要先看最终回答

对每个测试问题查看系统取回了哪些片段、它们来自哪里、当前用户是否有权访问。正确片段完全没出现，可能与问法、专有名词、标签或索引状态有关；出现了但排位很后，则要检查相关性排序。关键词检索有助于精确术语，语义检索有助于表达变化，是否组合使用应由实际问题集验证。

也要检查问题是否缺少必要条件。例如“怎么申请”可能对应多个部门、产品或地区；系统应先追问范围，而不是从最相似的任意资料推断。对于答案明确依赖用户权限的情形，检索时还要确认权限过滤发生在内容进入模型上下文之前。

六、核对排序结果、上下文组装和引用

如果正确资料已经召回，再检查排序是否把它放到可用位置，以及传给模型的内容有没有被截断或遗漏。引用应能定位到实际资料和版本。只要引用与回答不一致，就需要分别审查检索片段和生成内容，不要因为答案读起来通顺就认定证据充分。

对互相冲突的来源，系统应按权威来源、更新时间和适用范围处理；如果规则没有配置或无法判断，应提示存在冲突并让业务人员确认。把多个不一致片段放进上下文，再要求模型自行选择，不能替代清晰的版本治理。

七、最后才调整生成指令和业务流程

当正确且完整的依据已经进入上下文，但模型仍然越过依据推断时，再检查回答规则：是否要求仅依据资料作答、保留限制条件、展示引用、资料不足时明确说明不确定性。若任务涉及审批、写入或敏感判断，还需加入权限核验和人工确认，不应只靠一段提示词控制。

每次修复只改一个主要环节，并用原问题、同义问题和边界问题复测。记录旧行为、新行为、使用的资料版本和配置变更。效果指标应明确样本、时间范围和计算方法；当问题集很小时，先人工复核代表性样本，避免用一个总体分数掩盖具体风险。

宜天信达企业知识库建设可结合资料治理、解析切分、检索引用、权限和反馈流程进行诊断。若问题来自实时业务数据或跨系统状态，就需要评估业务系统连接；若知识没有明确负责人，则应先补上知识维护机制。下一步可整理最近发生的 20 个错误问答，逐一标记“资料、解析、检索、排序、生成、流程”故障类型。

常见追问一：RAG 能保证答案绝对准确吗？

不能。检索增强可以让回答依据企业资料生成，但资料质量、检索、权限和模型解释仍需验证；高风险事项应保留人工审核或业务系统约束。

常见追问二：回答错了应该先换大模型吗？

先看正确资料有没有被取回并传入模型。如果来源缺失、解析错误或检索不到，换模型不一定解决根因。

常见追问三：RAG 知识库能查询实时数据吗？

静态文档适合解释规则和流程；实时订单、库存或工单状态通常需要连接受控业务接口，并按权限和业务规则校验。