AI 产品最容易被忽略的合规问题不是模型,而是数据流向:用户输入了什么、存到哪里、谁能访问、保留多久、有没有跨境。
用户输入
→ 你的前端/App
→ 你的后端(是否落库?落哪里?)
→ 网关(是否记录全文?)
→ 模型供应商(境内/境外?是否用于训练?)
→ 返回结果(是否缓存?缓存多久?)这张图要能回答每个环节的四个问题:存不存、存哪里、存多久、谁能看。画不出来,说明你对数据流没有掌控。
| 数据 | 风险 | 建议 |
|---|---|---|
| 用户输入原文 | 可能含个人信息、商业秘密 | 默认不落全文;存哈希+长度+前 50 字 |
| 模型输出 | 可能含幻觉生成的个人信息 | 按需缓存,设过期;不长期留全文 |
| 会话历史 | 长期积累成画像 | 设保留期(如 30 天),支持用户删除 |
| 审计日志 | 合规需要,但与最小化原则冲突 | 脱敏后保留 6~12 个月 |
138****1234 换成 [PHONE_1],让模型处理占位符,返回后再替换回来。既保护了隐私,又不影响模型理解语义。