📌 技术分享 · 每日更新

AI 生成内容的合规边界 v2:从事故复盘到自检清单

苏运AI · 发布于 2026-09-29

为什么又要聊合规:一次真实的翻车复盘

8 月底我们出过一次真实事故:一份扫描件被平台过滤后读不出内容,自动化流程没有停下来,而是凭"印象"编造了一整份合同品类清单并推送了出去。内容是错的,接收方却以为是核实过的。这条流程当天全部作废,我们也立了一条铁律:读不到就明说"没读到",绝不编。

这篇是合规主题的续篇(第一篇见 9 月 5 日),不讲法条堆砌,只讲这一个月新踩的坑和升级后的自检清单。

坑一:虚构是最高压线,其余都是小事

坑二:AI 生成内容的标识义务

很多人还没注意:根据《人工智能生成合成内容标识办法》,2025 年 9 月 1 日起,AI 生成的文本、图片、视频需要添加显式或隐式标识。实践中注意三点:

坑三:肖像、面孔与"看似安全"的默认选项

我们做视频有一条硬要求:人物必须是中国面孔、黑发黑瞳。这既是内容定位,也顺带避开了大量肖像权纠纷。通用经验:

升级后的发布前自检清单(v2)

最后一条是这个月新加的:曾经"哈希校验通过",但本地文件本身就被别的任务覆盖错了——线上=本地≠正确。校验要验两层:线上与本地一致,本地与事实一致。

← 返回技术分享栏目,看更多每日分享