推理成本跌到1/10之后,AI行业的钱正在往哪流

有一组数字常被引用,却很少被正确解读:同等能力的模型调用价格,在十八个月里下降了接近一个数量级。

直觉结论是“AI更便宜了,生意更好做了”。实际情况几乎相反。

一、价格下降没有降低总支出,而是扩大了欲望

成本下降会触发两个相反的效应:

• 替代效应:原来做一件事的成本降低,做同样的事更省钱。
• 扩张效应:原来因为太贵而不做的事,现在变得值得做;已经做的事,顺便做得更长、更重、更多轮。

在AI这里,扩张效应压倒了替代效应,而且是压倒性的。原因很直接:模型能力本身在同步变强,每降一次价,同时会解锁一批新用法(更长上下文、多轮Agent、推理时思考、全量数据预处理)。

于是真实的行业图景是:单位成本下降90%,但总调用量涨了几十倍,总支出上升。

这对不同角色的意义完全不同。

二、对应用层:成本优势无法成为壁垒

当你的产品核心价值只是“帮用户调用模型”,价格下降对你是坏消息:

• 你的成本优势会在半年内被上游降价抹平;
• 用户会算账:“这个功能我自己接API也就几块钱”;
• 竞品可以直接用更便宜的模型,然后把价格打到你的成本线。

真正能留下毛利的应用层产品,都在上游降价时把省下的钱变成了别的东西,而不是让利:

1. 变成了数据:把交互沉淀成私有语料、评测集、工作流配置。这部分不可复制。
2. 变成了流程嵌入:深度长在客户的报销、审批、ERP里,迁移成本高于省下的钱。
3. 变成了结果承诺:从“按token收费”转向“按解决的单子收费”,让客户不再关心你用了什么模型。

如果一家AI应用公司的主要叙事仍是“我们用了最新的便宜模型”,它的护城河大约还有六个月。

三、对基础设施层:便宜制造了新的稀缺

推理价格下降不是因为硬件变便宜,而是因为吞吐优化——更好的batching、KV cache复用、投机解码、量化。

这些优化共同把瓶颈从“算力单价”推向了另外三个位置:

• 内存带宽:长上下文场景下,KV cache的显存占用成为硬约束;
• 电力与散热:单位token便宜了,但集群规模大了十倍;
• 调度效率:利用率从35%提到80%带来的收益,可能超过一次模型升级。

所以现在最赚钱的不是“卖便宜token”,而是帮别人把便宜token卖出去的能力——推理优化、调度、缓存、私有化部署工程。

四、对创业公司:便宜反而加快了死亡

这是最反直觉的一条。

推理变便宜,意味着试错门槛变低,于是同类产品数量爆炸。用户的选择成本没有下降,反而上升了。在分发能力不变的前提下,更多竞争者分同一批用户,单位获客成本上升,ARPU下降。

我们统计过一批2025年成立的AI SaaS:工具单价中位数从每月29美元降到19美元,而付费转化率几乎没有提升。省下的成本,最终以降价形式还给了用户。

五、真正的赢家画像

能在这轮降价里赚到钱的团队,通常具备两个特征:

• 成本下降不会自动带来客户增长(说明定价锚定在价值上,不在token上);
• 产品变复杂的速度快于模型变强的速度(说明壁垒在工程和组织,不在模型)。

判断一家AI公司是否健康,有个简单的问题可以问:如果明天API价格再降90%,你的收入会变多还是变少?

如果答案是“会变少,因为客户会自己调API”,那你卖的其实是转售服务。如果答案是“会变多,因为更多场景变得可行,而我们的价值在数据和流程”,那你站在正确的一侧。

成本下降不是红利,是一场淘汰赛。