数据合规收紧后,企业AI项目先改这五件事

📅 2026/11/17 ✍️ 小文 📖 约 1 分钟

监管从纸面走向执行,企业AI项目面临真实的合规压力。本文按风险优先级列出五个必须先动的地方:数据清单、模型调用边界、留痕、删除链路和第三方评估。

过去两年,很多企业的 AI 合规停留在”有制度、有文件”。2026 年开始,检查从看文件转向看系统:数据从哪来、去了哪、能不能删、谁能看。

这件事对 AI 项目特别麻烦,因为 AI 系统的数据流向天然比传统系统复杂——嵌入模型、向量库、缓存、日志、第三方 API,每一处都是数据出口。

下面五件事,按”越晚做越贵”排序。

一、摸清数据清单,特别是”影子数据”

合规的第一步不是改系统,是知道系统里有什么。

AI 项目的数据清单至少要覆盖:

  • 原始文档:知识库里有哪些文件,谁上传的,有没有敏感字段
  • 切片与向量:切分后的文本存在哪,向量在哪台服务器
  • 缓存与日志:提示词和回复是否落盘,保留多久
  • 派生数据:模型生成的摘要、问答记录、评价标注

最难的是影子数据——员工自己上传到公网 AI 工具里的公司文档。这部分从来不在系统清单里,但只要发生,就属于数据外流。

动作:做一次广度扫描(网络出口 + 浏览器插件日志),搞清楚有没有、有多少。

二、明确模型调用的数据边界

大多数合规风险集中在”调用外部模型”这一环。要能回答三个问题:

  1. 发了什么:是把整篇文档发过去,还是脱敏后的片段?
  2. 对方怎么处理:是否用于训练?保留多久?存在哪个区域?
  3. 能不能关:有没有关闭训练使用的开关,是否在合同里写明?

第三条经常被忽略。很多 API 默认允许用请求数据改进服务,需要主动关闭或在企业协议里约定。

动作:对每个外部调用点做标注,梳理成一张表——调用点、发送字段、是否含敏感信息、对方的数据政策、关闭方式。

三、让每一步留痕

合规检查越来越关注可追溯性。要求通常是:给定一条 AI 输出,能追溯它用了哪些输入、哪个模型版本、什么时候生成、谁触发。

这意味着需要记录:

  • 请求 ID 与时间戳
  • 模型名称与版本号(很多人只记模型名,不记版本,一出问题无法定位)
  • 输入内容的哈希或引用(不必存全文)
  • 输出全文(按需)
  • 使用的知识片段 ID

有了这些,出现”AI 说错了”或”AI 泄露了”时,才能回答”为什么”。

动作:现有的日志系统加三个字段——模型版本、输入引用、检索片段 ID。改动很小,价值很大。

四、打通删除链路

这是最容易漏、也最容易在检查中被挑出的一条:用户要求删除数据时,AI 系统里的数据能不能删干净?

AI 系统的删除难点在于数据副本极多:

  • 原始文档
  • 切片后的文本
  • 向量库中的向量
  • 缓存里的问答对
  • 日志里的请求记录
  • 外部服务商的侧(这个通常删不了,只能靠保留期到期)

动作:写一份”删除影响分析”,逐项列出每类数据的删除方式和时效。做不到即时删除的,要说明保留期依据。

向量库的删除尤其要注意——不是所有向量库都支持高效的按元数据批量删除,有些方案需要重建索引。这个坑要在选型时就问清楚。

五、第三方与生成内容的标识

两块相对新的要求:

供应商尽调:模型服务商、向量数据库、SaaS 平台都在处理你的数据,需要留下尽调记录——安全资质、数据处理协议、事故通报机制。

生成内容标识:对外发布的 AI 生成内容(文案、图片、视频)需要有可识别标识。面向消费者的场景尤其严格。

动作:整理供应商清单,补齐协议;在产品里加生成内容标识字段,别等到被要求时再改数据库。

一份现实的推进顺序

如果资源有限,按这个顺序:

  1. 数据清单 + 外部调用点表(两周,纯人工梳理)
  2. 日志加三个字段(一周,工程改动小)
  3. 关闭第三方训练使用(几天,主要是沟通合同)
  4. 删除链路分析(一到两月,涉及多个系统)
  5. 供应商尽调与生成内容标识(持续)

前两项做完,你在检查中已经能应对大部分问题。后三项是长期工作。

最后一句提醒

合规不是给 AI 踩刹车,而是让 AI 能开得更远。很多企业卡在”不敢上线”,不是因为技术不行,是因为答不出”数据去哪了”。

把这五个问题答清楚,换来的不是一个合规印章,而是一张能做更大项目的通行证。

📤 分享到