用户不再相信AI了:这不是能力问题,是错误率没有对齐预期

有个变化悄悄发生了,而且比模型榜单上的任何数字都重要:

用户对AI输出的默认动作,已经从“采用”变成了“复核”。

两年前,AI给一份提纲,你会直接用。现在,AI给一份提纲,你会先扫一眼有没有硬伤再改。这个动作本身只有几秒钟,但它带来的连锁反应正在重塑整个行业。

信任是怎么被消耗掉的

不是被一次重大事故,而是被一千次小失误。

• 引用的链接点开是404;
• 数据表里的数字对不上原文;
• 语气很确定,但把日期说错了一天;
• 你说“不要改我的措辞”,它还是改了。

这些错误单个看起来都不致命。但它们有一个共同特征:高置信度地犯错。用户无法从语气、结构、完整性上判断哪里可能有问题,于是只能全盘复核。

这才是真正的成本:不是错误率,而是错误的不可预测性。 一个会明确说“我不确定”的系统,比一个90%正确但从不示弱的系统,更容易被信任。

对齐预期的两种做法

做法一:把不确定性显式化

产品层面至少有三种可操作的表达:

• 分级标注:引用了外部资料的段落给可点击来源;来自模型推断的段落明确标记;“无法确认”的内容直接不生成,而不是补全。
• 置信度绑定行为:低置信时降低承诺强度(从“应在3天到账”改为“通常3~5个国家工作日,具体以银行处理为准”)。
• 可追溯:用户能点击任何一句话看到出处。这不是给工程师看的日志,而是给用户看的证据。

做法二:把复核成本降到接近零

既然用户必然要复核,那产品的目标应该是让复核变便宜,而不是说服用户别复核。

有效的手段:

• 变更高亮:AI改了你原文的哪几个词,精确显示;
• 一键对比:原件与生成件并排,差异着色;
• 敏感项抽检提示:自动标出金额、日期、人名、编号,让用户优先看这些。

我们观察过一个合同审查产品,仅仅增加了“金额与期限高亮”这一个功能,用户的实际采用率提升了近一倍。原因很朴素:它把用户的注意力引导到了最该看的地方。

对企业采购的影响

这条变化已经传导到采购决策:

• 采购方开始要求可复现性——“同样的输入,你的输出稳定吗?”
• 开始要求可关停性——出问题时能否一键回到人工流程,多久能切;
• 开始要求责任归属——出错时谁赔,合同里写不写。
• “准确率95%”这类数字的说服力在下降,取而代之的是“误报漏报的具体样例”。

换句话说,市场正在从“能力比较”转向**“风险定价”**。这对产品形态的直接影响是:AI不再作为“替代人”的卖点,而是作为“让人做更多”的工具。人是流程的负责人,AI是加速器。

一个反直觉的建议

如果你的AI产品用户信任度在下降,不要急着提升模型能力,先降低用户的预期落差。

具体做法是:把产品对外承诺从“不用改,直接能用”改成“帮你完成80%,剩下20%你花两分钟确认”。

听起来是退步,实际效果相反。因为用户真正厌恶的不是“要改”,而是“不知道哪里要改”。明确告知边界的产品,获得的信任远高于声称完美无缺的产品。

AI行业的下一阶段竞争,可能不是谁更聪明,而是谁更诚实。