向量库不会告诉你它过期了:Embedding 漂移与重建索引实战
换了 embedding 模型、改了分块策略、业务语料持续更新——你的向量索引会静默失效。本文讲清漂移的四种来源、如何检测、以及不停机重建索引的三种方案对比。
RAG 系统最阴险的一类故障,是检索还在返回结果,但返回的结果越来越不相关。
不会有报错,不会有延迟抖动,监控全绿。只是用户开始说”它好像不太懂我们的业务了”。等你意识到的时候,可能已经过去两个月。
这就是 embedding 漂移。它不像数据库 schema 变更那样会当场炸,它会慢慢地、静默地烂掉。
一、漂移的四种来源
来源一:换模型没重建索引。 最致命的一种。用模型 A 建的向量库,用模型 B 编码 query,两个向量空间完全不对齐,相似度计算毫无意义。
更隐蔽的是”模型同名不同版本”——服务商悄悄更新了同一个模型名背后的权重。这种情况你连更换动作都没有做,索引就失效了。
来源二:分块策略变更。 把 512 token 切片改成 1024 带重叠,旧索引里全是 512 的块。新 query 的语义单元与旧块的粒度不匹配,召回质量下降但看不出来。
来源三:语料自然老化。 产品改名、价格调整、流程变更,而旧文档仍在库里。检索会优先命中那些”看起来语义很接近但内容已过期”的段落。
来源四:文档分布偏移。 业务扩张到新领域,新进来的文档与旧文档风格差异很大。旧的分块规则和清洗规则在新语料上表现更差,但索引是统一建的,你看不出差异。
二、怎么知道它漂了
关键是要有与索引无关的参照物。三个可落地的检测手段:
手段一:固定查询集 + 命中率曲线。 维护 100 条标注好的查询(query → 正确文档 ID),每周自动跑一次,记录 Recall@5 和 MRR。这条曲线只要向下倾斜 5 个百分点,就该查原因了。这是最简单也最有效的手段,但绝大多数团队没做。
手段二:语义自洽性抽检。 随机抽 200 个块,用当前模型重新编码一遍,与库中存储的向量算余弦相似度。如果重新编码后与库中向量的一致率低于 98%,说明编码环境变了(模型版本、归一化方式、截断长度)。这个检查能在换模型后第一时间报警,且不需要标注数据。
手段三:新老文档的相似度分布比对。 分别取”最近 30 天入库”和”60 天前入库”的块,各自与一组代表性 query 求相似度分布。如果两者分布显著不同,说明语料或编码存在偏移。
三、重建索引的三种方案
检测到问题后,重建是必须的。难点在于不停机。
| 方案 | 做法 | 优点 | 代价 |
|---|---|---|---|
| 双写影子索引 | 新建一个集合,全量灌入后在切流 | 切换瞬间完成,可回滚 | 需要双倍存储,全量灌入期间要持续追增量 |
| 原地换列 | 给向量列加版本号,查询时指定版本 | 存储省,切换粒度细 | 依赖数据库支持多向量列或元数据过滤 |
| 蓝绿双库 | 两套完整实例,DNS/配置切换 | 隔离彻底,可压测 | 成本最高,运维复杂 |
中小规模(百万级块以下)我推荐影子索引,实现最简单:
- 新建集合
docs_v2,写入时带embedding_model与chunk_version元数据 - 全量重灌期间,生产写入双写两个集合
- 灌完后用固定查询集在 v2 上跑一遍评测,与 v1 对比
- 指标达标后切读流量,v1 保留 7 天作为回滚备份
- 清理 v1
关键细节:全量灌入要限速。embedding API 通常有速率限制,一次性打满会触发 429 甚至影响生产流量。用队列 + 并发上限(比如 5 个并发、每批 100 块)慢慢跑,一晚上足够灌完几十万块。
四、让重建变成常态而非事故
重建一次索引很痛苦,但如果每次都是”出事了才重建”,那永远会很痛苦。把下面几件事制度化:
- 元数据必须带版本。 每个块写入时记录
embedding_model、chunk_size、chunk_version、ingested_at。没有这四个字段的索引,出了问题连影响范围都圈不出来。 - 把重建做成一条命令。 写好脚本,参数化目标集合与并发度,任何人能在预发环境跑通。
- 每月做一次”演练重建”,看耗时、看成本、看评测曲线。演练过的流程,事故时才敢用。
- 变更清单:任何涉及 embedding 模型、分块、清洗逻辑的 PR,都必须在描述里写明”是否需要重建索引”。
五、结论
Embedding 漂移之所以危险,是因为它违反了工程直觉:我们习惯”没报错就是没问题”。但向量索引不会校验自己。
最常见的误区是”只要模型不变就不会漂”。实际上增量入库本身就是漂移源——早期清洗掉了页眉页脚,半年后为了保留上下文取消了这一步,新块就因含噪声而长期不被召回。
所以最该做的不是某个高级技术,而是加三条最小监控:固定查询集的命中率曲线、重编码自洽率、新老文档召回占比。这三条加起来不到 100 行代码,却能在你发现问题之前两个月就发出信号。