向量检索 + BM25 混合检索 + 精排

这是一份什么方法

一种把语义匹配（向量检索）和关键词匹配（BM25）结合的混合检索方法，并对召回结果做精排。在 SRC-BIZ-001 中，作者 WMW 在产品咨询链路使用"向量检索 + BM25 → 融合 → 精排"的方式处理知识库检索。

适合什么时候用

• 知识库中存在名称相近但功能不同的条目。
• 单纯向量检索会因语义相似而误召回"看起来像但不是"的内容。
• 需要在召回阶段同时控制语义命中与关键词命中。

怎么做

• 用同一份问题同时送入向量检索与 BM25 检索。
• 对两路召回结果做融合（分数加权、互为过滤或重排候选生成）。
• 用精排模型对融合结果重排，控制最终送入模型的 Top-K。
• 在检索前对问题做上下文消解与指代改写（上下文消解与指代改写）。
• 配合 混合 RAG 记忆分层（最近对话保留原文 + 较旧内容压缩成摘要） 控制不同时间窗的内容形式。

来源中的关键经验

• 作者直接披露：单纯向量检索会召回名称相近但实际不同的功能，必须做混合检索。
• 来源未公开融合权重的具体数值、精排模型与 Top-K 设定。
• 来自 SRC-BIZ-001：从0到1构建AI客服系统（空气小猪实践记录） 与 空气小猪从创始人真人客服到 AI 客服数据飞轮。

限制

• 融合与精排会引入额外延迟与计算成本，在客服实时场景中需要在延迟与召回质量之间权衡（AI 客服的上下文幻觉、延迟与 Token 成本权衡）。
• 精排模型自身的偏差会传递到最终回答。
• 具体参数（融合权重、Top-K、精排模型）需根据语料自行调参。