RAG的销量在2026年下滑了吗?从Gemini 2.0的「千页上下文」说起

📅 2026/4/26 ✍️ 小文 📖 约 1 分钟

长上下文越来越便宜,很多人断言RAG要死了。本文用检索召回率、成本和可审计性三组数据反驳这个论断,并给出长上下文+RAG共存的工程边界。

一个每半年就要复活一次的预言

从百万 Token 窗口发布那天起,“RAG 已死”的论断就反复出现。2026 年这个论断的说法更成熟了:上下文窗口不仅大,而且便宜——长上下文的溢价从最初的几倍降到了接近线性,有些厂商干脆取消溢价。既然如此,为什么不把全部文档直接塞进去?

这个问题值得认真回答,因为这个决定会锁定未来两年的架构。本文用三个维度拆开看:召回、成本、可审计性。

维度一:召回率——上下文大不等于找得到

把 200 页文档塞进 100 万 Token 窗口,模型确实”看到了”。但”看到”和”用上”是两件事。

三个已被反复验证的现象:

  1. 中段遗忘(lost in the middle):信息在长上下文的头部和尾部召回率最高,中段显著下降。这个现象随着模型迭代有所缓解,但没有消失。当你塞入整本文档时,答案恰好落在中间的概率不低。
  2. 干扰项稀释:注入 200 页里只有 3 段相关,其余全是噪音。模型需要从大量无关内容中筛选,准确率比”只看那 3 段”要低。这在需要精确数字的场景(金额、日期、条款编号)上尤其明显。
  3. 多跳问题更差:需要”先找到 A,再用 A 里的值去找 B”时,全量上下文的模型容易在第一跳就跑偏,因为它不知道该在哪个位置深入。

这就是 RAG 的核心价值:检索不是上下文窗口的替代品,而是注意力的预算管理。它不是”找信息”,是”不给你不需要的信息”。

不过一个有力的反驳是:现代 Agent 已经能做”agentic search”——自己检索、自己判断够不够、再检索。这条路确实在削弱”一次性检索”的需求,但它恰恰强化了 RAG 的必要性:agentic search 本身就是检索的迭代版,而不是检索的取消。

维度二:成本——长上下文便宜了,但便宜的不是你

长上下文变便宜,会显著改变单次调用的成本结构。但它改变不了三件事:

第一,调用量。 一个内部知识问答系统,日活 2000,人均 8 次对话,每次带 30 轮历史。如果每轮都带完整文档集,输入 Token 会是亿级/天量级。哪怕单价再降十倍,也会成为难以承受的开销;用检索把每次输入压到 4k–8k,成本是两个数量级的差别。

第二,缓存红利的分配。 上下文缓存在”前缀稳定”时效果极好。检索的好处是:检索片段可以排序成稳定前缀,让缓存命中率很高。全量文档虽然也能缓存,但一旦文档更新(每天都在更新),整个缓存失效,命中率骤降。检索式架构天然支持增量更新。

第三,延迟。 输入 Token 越多,首 Token 时延越长,而且是非线性增长。对交互式产品,这条往往比成本更致命。

一句话:长上下文是奢侈品,检索是日用品。 奢侈品可以点缀,不能当饭吃。

维度三:可审计性——这个维度最容易被工程师忽略

在企业场景里,这个维度经常比召回和成本更重要。

一个金融合规问答系统,如果答错了,你必须能回答:这个结论基于哪几段原文? 检索式架构天然提供引用锚点——每一段输入都有来源、有页码、有更新时间。全量上下文架构里,模型看到了 200 页,你无法知道它实际用了哪三句。

这带来三个具体后果:

  • 无法做归因:出了错,你只能重放整个请求,但无法定位根因。
  • 无法做增量更新告知:文档更新后,你无法判断哪些历史答案需要复核。
  • 合规成本:越来越多的行业规范要求 AI 输出可溯源。审计追问一句”依据是什么”,全量上下文架构就哑了。

那么,边界在哪

真实的工程答案是:按问题类型分流,而不是架构层面二选一。

问题类型推荐做法理由
事实查询(是什么/多少钱/谁负责)检索 + 小上下文精度优先,成本敏感
单文档精读(读完这份合同)全量上下文文档本身是完整语义单元
跨文档比较(A 与 B 的差异)检索粗筛 + 全量精读候选文档两段式,兼顾召回与理解深度
需要引用的合规问答检索 + 强制引用可审计是刚需
探索式分析(帮我看看有什么问题)agentic search 多轮无法预先定义检索目标

值得强调的是第三行和第五行:它们代表了 2026 年真正的技术演进方向——不是”RAG 被长上下文替代”,而是”检索从一次性 pipeline 变成 Agent 的一个工具”。

传统 RAG 是 query → 检索 top-k → 生成,一句线性流程。新的形态是 Agent 判断需要什么信息 → 检索 → 评估是否足够 → 再检索 → 生成。这让检索的价值上升而不是下降,因为它从”固定管道”变成了”可决策的能力”。

如果你正在做架构决策

给三条可操作的判断标准:

  1. 语料在 50 页以内、且要求一次性完整理解 → 直接全量上下文,别建检索。过度工程同样有害。
  2. 语料超过 500 页,或需要多轮对话、需要引用、成本敏感 → 检索是必须的,且你应该直接上 agentic search,跳过传统线性 RAG。
  3. 两者之间 → 先做检索,把引用能力建起来——它比召回提升更保值。

结语

长上下文是一项巨大的能力进步,它解决了很多过去做不了的事:整本合同的条款比对、整个代码库的重构、完整会议记录的梳理。但它解决的是”理解深度”问题,不是”信息筛选”问题。而后者才是大部分业务场景的真实瓶颈。

所以 2026 年的正确答案不是”RAG 死了”,而是:RAG 作为独立架构正在消失,检索作为 Agent 的基础能力正在变得更重要。

📤 分享到