为什么模型需要外部知识?

模型参数不适合作为持续更新的企业知识库。产品手册、合同条款和内部规则会变化,用户也可能只允许查看其中一部分。RAG 把知识存储与回答生成分开:问题到来时检索当前可用的材料,模型根据材料组织答案。这样可以更新知识源,而无需每次都重新训练模型。

RAG 从索引到回答经过哪些步骤?

离线阶段先收集文档,解析内容,按语义或结构分块,并建立关键词、向量或混合索引。在线阶段接收问题,检索候选片段,必要时通过重排序筛选,再把片段连同来源传给模型。模型生成答案后,应用可以检查引用、记录检索链路,并在证据不足时返回“不确定”。对于企业场景,索引和检索两侧都要考虑访问权限与文档版本。

例如,员工询问某项报销规则。RAG 可检索现行制度中的相关条款,回答适用范围并链接原文。若制度存在地区差异,系统还需识别员工所属地区;若两份文件冲突,应按有效版本与责任部门确认,不能由模型自行选择。镜舟的多模态检索与分析实践(英文)提供了检索与分析衔接的场景。

RAG 的优势和失效点在哪里?

RAG 适合知识量大、更新频繁、需要引用出处的任务,也能在不修改模型参数的情况下接入领域资料。它的质量取决于文档解析、分块、索引、召回、排序和生成的共同效果。若正确资料未被检索到,模型可能答错;若检索到的是过期或越权资料,附上引用也无法使答案合规。结构化指标计算通常还需要语义层和查询引擎,不宜只靠文档片段推断数字。

常见问题

RAG 一定要用向量数据库吗?

不一定。关键词搜索、关系数据库检索或混合搜索也可用于召回,取决于资料类型和问题。

RAG 与模型微调有什么区别?

RAG 在回答时取用外部资料;微调改变模型行为或能力。两者解决的问题不同,也可以组合。

如何衡量 RAG 效果?

分开检查检索是否找到正确证据、引用是否准确以及最终回答是否完整,并覆盖无答案和权限边界问题。