SaaS 做 RAG 最容易翻车的地方:多租户检索隔离
租户 A 的检索结果里出现租户 B 的合同——一次就足以毁掉产品。本文讲清过滤式、分区式、物理隔离三种方案的取舍,以及四个最常被忽略的泄漏路径。
把一个内部 RAG 系统改造成 SaaS 产品,技术上最大的变化不是扩容,也不是计费,而是数据隔离。
内部系统里,“所有文档都能被检索到”是特性。在 SaaS 里,它是重大事故。
我见过最典型的一类事故:团队用了一个向量库,每个块都带 tenant_id 元数据,查询时加过滤条件——看起来没问题,但他们的实现是”先向量检索 top 50,再用 where 条件过滤”。当某个租户文档很少时,top 50 里一条属于它的都没有,于是模型拿到空上下文,回答”我没有相关信息”——服务不可用。
反过来更可怕的情况:向量库里没有加元数据索引,过滤实际上是在应用层做的,一旦某次代码走了另一条分支,租户 B 的数据就进了租户 A 的上下文。
一、先理解隔离级别
| 级别 | 机制 | 隔离强度 | 成本 | 适用 |
|---|---|---|---|---|
| L1 过滤式 | 同一集合,每条带 tenant_id,查询时过滤 | 低(依赖代码正确) | 最低 | 内部多团队、可信环境 |
| L2 分区式 | 每租户独立 collection / namespace / partition | 中高 | 中 | 大多数 SaaS |
| L3 物理隔离 | 每租户独立实例或独立数据库 | 最高 | 高 | 金融、医疗、大客户 |
我的建议:默认 L2,只有合规硬要求或超大客户才上 L3。L1 在 SaaS 里基本不该出现,因为它的安全性完全依赖于”每次查询都没写错”,而这在长期迭代中不可能保证。
二、L2 的关键陷阱:过滤必须前置
即使用同一集合,也必须保证过滤发生在向量检索内部,而不是之后。在支持元数据预过滤的向量库里,这通常写作:
index.query(
vector=query_vec,
top_k=20,
filter={"tenant_id": {"$eq": tenant_id}, "status": {"$eq": "active"}},
namespace=f"t_{tenant_id}" # 同时使用 namespace 做双保险
)
两个要点:
- top_k 是在过滤后的候选集里取的,而不是先取再过滤。这一点必须确认文档或实测——两种实现的结果差异巨大。
- namespace / collection 与过滤条件同时用,形成冗余。任何一方配置错误,另一方仍在保护。
三、四个容易被忽略的泄漏路径
绝大多数泄漏事故不是发生在主检索链路上,而是发生在旁边这些”辅助功能”里:
路径一:缓存。 如果按 query 文本做缓存,两个租户问了同一句话,第二个租户会拿到第一个租户的答案。缓存 key 必须包含 tenant_id,且答案里如果含引用来源,同样要校验归属。
路径二:会话记忆。
Agent 的记忆模块常常按用户 ID 存,但用户可能同时属于多个租户(比如顾问角色切换)。记忆键应该是 (tenant_id, user_id),而不是 user_id。
路径三:日志与可观测性。 trace 系统里带着完整 prompt 和检索片段,而它可能被所有工程师看见。如果在做租户演示时用了 A 的数据做排查,B 客户看见就是事故。日志侧也需要按租户分区或脱敏。
路径四:模型微调与蒸馏。 把多租户数据混在一起做微调,模型可能记住特定租户的内容并在其他租户的对话里复述。跨租户训练数据混用,是最高危的做法,很多团队为了省成本会这么做。
四、代码层面的两道保险
保险一:租户上下文不可显式传递。
不要让开发者每次手动传 tenant_id。用请求级上下文自动注入:
@contextmanager
def tenant_scope(tenant_id):
token = _CTX.set(TenantContext(tenant_id))
try:
yield
finally:
_CTX.reset(token)
def safe_retrieve(query, top_k=20):
ctx = _CTX.get() # 没有上下文直接抛错
if ctx is None:
raise RuntimeError("retrieve called outside tenant scope")
...
任何异步任务、后台 job、定时重建,都必须显式进入某个租户作用域,否则直接失败。这比”忘了传参数默认用 0”安全一个数量级。
保险二:出站前校验来源归属。
在拼接上下文之前,再检查一遍每个 chunk 的 tenant_id 与当前上下文是否一致。不一致就丢弃并报警——因为这说明上游有 bug,静默丢弃会掩盖问题。
五、成本与性能的现实考量
分区式隔离会遇到”小租户”问题:一个有 20 篇文档的租户,单独一个 collection 的运维开销和冷启动成本不划算。
几个缓解手段:
- 共享小租户集合 + 强过滤,大租户独立集合。但必须确保这个共享集合的过滤实现经过审计。
- 限制每租户 collection 数量上限,超过则合并,避免元数据爆炸。
- 按需创建,不要预建空集合。
另外,多 collection 会让跨租户的分析查询变难(比如”全平台最常被检索的问题”)。建议的数据仓库做法是:检索走隔离路径,分析走异步导出的脱敏聚合数据,两者不共用同一条链路。
六、最低交付清单
上线前逐条确认:
- 每个 chunk 都有
tenant_id,且建了元数据索引 - 检索过滤发生在向量检索引擎内部,已实测验证
- 缓存 key 含 tenant_id
- 记忆键为
(tenant_id, user_id) - 日志与 trace 按租户分区或脱敏
- CI 中有跨租户泄漏测试(A、B 各灌 50 条不同文档,断言 A 的检索结果中 B 文档数为 0)
- 训练/微调数据不做跨租户混用
这七条没有一条是高深技术,全是工程纪律。数据隔离出问题,原因几乎从来不是”不会做”,而是”没被当成硬约束”。