数据合规收紧后,企业AI项目先改这五件事
监管从纸面走向执行,企业AI项目面临真实的合规压力。本文按风险优先级列出五个必须先动的地方:数据清单、模型调用边界、留痕、删除链路和第三方评估。
过去两年,很多企业的 AI 合规停留在”有制度、有文件”。2026 年开始,检查从看文件转向看系统:数据从哪来、去了哪、能不能删、谁能看。
这件事对 AI 项目特别麻烦,因为 AI 系统的数据流向天然比传统系统复杂——嵌入模型、向量库、缓存、日志、第三方 API,每一处都是数据出口。
下面五件事,按”越晚做越贵”排序。
一、摸清数据清单,特别是”影子数据”
合规的第一步不是改系统,是知道系统里有什么。
AI 项目的数据清单至少要覆盖:
- 原始文档:知识库里有哪些文件,谁上传的,有没有敏感字段
- 切片与向量:切分后的文本存在哪,向量在哪台服务器
- 缓存与日志:提示词和回复是否落盘,保留多久
- 派生数据:模型生成的摘要、问答记录、评价标注
最难的是影子数据——员工自己上传到公网 AI 工具里的公司文档。这部分从来不在系统清单里,但只要发生,就属于数据外流。
动作:做一次广度扫描(网络出口 + 浏览器插件日志),搞清楚有没有、有多少。
二、明确模型调用的数据边界
大多数合规风险集中在”调用外部模型”这一环。要能回答三个问题:
- 发了什么:是把整篇文档发过去,还是脱敏后的片段?
- 对方怎么处理:是否用于训练?保留多久?存在哪个区域?
- 能不能关:有没有关闭训练使用的开关,是否在合同里写明?
第三条经常被忽略。很多 API 默认允许用请求数据改进服务,需要主动关闭或在企业协议里约定。
动作:对每个外部调用点做标注,梳理成一张表——调用点、发送字段、是否含敏感信息、对方的数据政策、关闭方式。
三、让每一步留痕
合规检查越来越关注可追溯性。要求通常是:给定一条 AI 输出,能追溯它用了哪些输入、哪个模型版本、什么时候生成、谁触发。
这意味着需要记录:
- 请求 ID 与时间戳
- 模型名称与版本号(很多人只记模型名,不记版本,一出问题无法定位)
- 输入内容的哈希或引用(不必存全文)
- 输出全文(按需)
- 使用的知识片段 ID
有了这些,出现”AI 说错了”或”AI 泄露了”时,才能回答”为什么”。
动作:现有的日志系统加三个字段——模型版本、输入引用、检索片段 ID。改动很小,价值很大。
四、打通删除链路
这是最容易漏、也最容易在检查中被挑出的一条:用户要求删除数据时,AI 系统里的数据能不能删干净?
AI 系统的删除难点在于数据副本极多:
- 原始文档
- 切片后的文本
- 向量库中的向量
- 缓存里的问答对
- 日志里的请求记录
- 外部服务商的侧(这个通常删不了,只能靠保留期到期)
动作:写一份”删除影响分析”,逐项列出每类数据的删除方式和时效。做不到即时删除的,要说明保留期依据。
向量库的删除尤其要注意——不是所有向量库都支持高效的按元数据批量删除,有些方案需要重建索引。这个坑要在选型时就问清楚。
五、第三方与生成内容的标识
两块相对新的要求:
供应商尽调:模型服务商、向量数据库、SaaS 平台都在处理你的数据,需要留下尽调记录——安全资质、数据处理协议、事故通报机制。
生成内容标识:对外发布的 AI 生成内容(文案、图片、视频)需要有可识别标识。面向消费者的场景尤其严格。
动作:整理供应商清单,补齐协议;在产品里加生成内容标识字段,别等到被要求时再改数据库。
一份现实的推进顺序
如果资源有限,按这个顺序:
- 数据清单 + 外部调用点表(两周,纯人工梳理)
- 日志加三个字段(一周,工程改动小)
- 关闭第三方训练使用(几天,主要是沟通合同)
- 删除链路分析(一到两月,涉及多个系统)
- 供应商尽调与生成内容标识(持续)
前两项做完,你在检查中已经能应对大部分问题。后三项是长期工作。
最后一句提醒
合规不是给 AI 踩刹车,而是让 AI 能开得更远。很多企业卡在”不敢上线”,不是因为技术不行,是因为答不出”数据去哪了”。
把这五个问题答清楚,换来的不是一个合规印章,而是一张能做更大项目的通行证。