文档分块后为什么会漏检?
RAG 通常把长文档切成短片段后建立索引。片段如果只写“该季度增长了 3%”,脱离标题和前文,就看不出是哪家公司、哪个季度或什么指标。即使用户问得很明确,向量检索和关键词检索也可能找不到正确片段,或者检索到另一份报告中的相似句子。上下文检索要解决的是这类“切开后失去身份”的问题。
怎样给片段补回必要背景?
一种常见做法是在建索引前,为每个片段生成简短的背景说明,如文档名称、章节主题、实体、时间范围和必要的定义,再把说明与原片段一起用于向量化或关键词索引。查询时,系统检索这些带背景的片段,并可加入关键词匹配、混合搜索与重排序,最后把选中的原文、背景及来源交给模型。背景说明应来自可核验的原始资料,不能凭空补写文档没有的事实。
例如,一份年度报告的片段写着“同比下降 8%”。加入“2025 年华东区线下渠道净销售额”后,检索系统更容易把它与对应问题匹配。背景同时应保留文档标题和位置,方便回答时回到原文检查。镜舟的多模态检索与分析实践(英文)展示了检索与后续分析衔接的场景;具体是否采用片段背景增强,应按数据和评估结果决定。
上下文检索与重排序如何配合?
普通 RAG 可以直接索引原始分块;上下文检索侧重在索引与匹配阶段补足分块背景。重排序通常发生在初次召回之后,用更精细的模型重新排列候选结果;两者可以叠加。上下文检索也不等于“多给模型一些上下文”:如果检索阶段没有找到正确片段,生成阶段扩大输入未必能补救。相关背景可参看上下文工程与上下文窗口。
常见问题
每个片段都需要生成背景吗?
不一定。标题、表头或元数据已足够清楚的材料,可以直接用现有信息;缺少主体和时间的片段更值得处理。
背景越长越好吗?
不是。过长或重复的背景可能稀释原文中的关键词,并增加索引与处理成本,应保留与检索有关的最小信息。
怎样判断是否有效?
用真实问题比较改造前后的召回率、正确引用率及最终回答质量,并检查背景说明是否引入错误事实。