---
title: "AI公司要建立哪五项合规机制？"
section: "深度解读"
slug: "2026-09-17-AI公司要建立哪五项合规机制"
canonical_url: "https://fazhuli.cn/articles/a_1y6qx6g1ihd"
date: "Thu Sep 17 2026 08:00:00 GMT+0800 (China Standard Time)"
author: "吕盈辉律师"
tags: ["人工智能", "AI合规", "生成式AI"]
---

# AI公司要建立哪五项合规机制？

作者：吕盈辉律师
发布日期：Thu Sep 17 2026 08:00:00 GMT+0800 (China Standard Time)

## 摘要

AI公司要建标识、投诉举报、训练数据留痕、输出端过滤、风险告知五项机制，同类AI侵权案机制欠缺判赔一万到三万，机制齐备零责任。

## 正文

# AI公司要建立哪五项合规机制？

AI公司要建立的五项合规机制是：生成内容标识、投诉举报与通知处置、训练数据留痕、输出端过滤、风险告知。这五项的依据散落在[《生成式人工智能服务管理暂行办法》](https://fazhuli.cn/laws/shengchengshi-ai-fuwu-guanli-banfa)、[《互联网信息服务深度合成管理规定》](https://fazhuli.cn/laws/shendu-hecheng-guanli-guiding)、[《人工智能生成合成内容标识办法》](https://fazhuli.cn/laws/ai-shengcheng-hecheng-neirong-biaoshi-banfa)，以及最高人民法院2026年9月7日发布的[《关于依法审理涉人工智能纠纷案件的意见》](https://fazhuli.cn/laws/she-ai-jiufen-anjian-shenli-yijian)四份规范里。机制齐不齐直接决定赔偿结果：在同类AI侵权案中，机制欠缺的平台分别被判赔一万元和三万元，机制齐备的平台零责任。

9月7日，最高人民法院发布了[《关于依法审理涉人工智能纠纷案件的意见》](https://fazhuli.cn/laws/she-ai-jiufen-anjian-shenli-yijian)，文号法发〔2026〕10号（全文与逐条解读见本站法规页）。这是最高审判机构第一次专门就涉AI纠纷的裁判规则发文。

先说清楚它的分量。它不是司法解释。文号是“法发”不是“法释”，法官写判决书的时候不能把它当作裁判依据直接援引。但它通过提级管辖、案例指导和审判监督来统一各级法院的尺度，实务里的影响跟司法解释差不多。把它当成一份“全国法官办AI案子的共同参考答案”，误差不大。

如果你在做AI产品、把AI接进自己的业务流程、或者正打算入场，这份文件里有相当一部分是写给你看的。而它最要紧的那处变化，不在于新增了多少义务。过去三年监管陆续发的那几份办法，早就把义务列得七七八八了。变的是这些义务的性质。

下面这五项机制，不是《意见》直接给出的清单，是我把《意见》和《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》这四份规范里压到服务提供者头上的要求归并之后的结果。至于我为什么建议现在就动手，而不是等到监管上门或者收到通知函，得先说清楚这些义务的性质到底变成了什么。

## 合规机制不再只是台账，它现在是你打官司的证据

过去谈AI合规，落点在备案、评估、检查。机制建起来主要是为了应付主管部门，做成一份台账，人来了能拿出来。

《意见》改变的是：同一套机制，现在直接决定你在民事诉讼里赔不赔钱、赔多少。

第（三）条先把归责原则定下来：法律没有特别规定的，按过错责任办，也就是有错才赔。紧接着它列了一串判断有没有过错的考量因素：

> （三）准确把握涉人工智能侵权责任的归责原则。准确适用民法典、个人信息保护法、产品质量法、道路交通安全法等相关法律规定，依法认定利用人工智能侵害民事权益产生的法律责任。法律没有明确规定适用无过错责任或者过错推定责任的，应当依照民法典第一千一百六十五条第一款规定的过错责任原则认定行为人是否承担侵权责任。在判断行为人有无过错以及过错程度时，应当综合考量人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围，人工智能开发者、提供者等相关主体为预防和减少人工智能侵权所采取的措施及技术上的可能性，人工智能使用者对利用人工智能技术实施的侵权行为可能造成损害的预见能力与控制能力等因素。

这段话里，跟你的机制直接挂钩的有两项：一项是你为了预防侵权采取过什么措施、技术上做不做得到；另一项是你的技术和信息透明到什么程度。说白了，你做过的每一个合规动作，在法庭上都会被折算成过错程度。

更直接的是第（十二）条：

> （十二）依法规制涉人工智能侵害知识产权的行为。人工智能生成内容侵害他人著作权的，人民法院应当综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等因素，依法合理认定人工智能开发者、提供者、使用者的责任。人工智能开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。权利人主张人工智能提供者利用算法技术侵害其著作权的，应当提供相关证据。人工智能使用者知道或者应当知道在先作品存在，利用人工智能生成与在先作品实质相似的作品且无合理抗辩理由，在先作品权利人请求其承担侵权责任的，人民法院应予支持。利用人工智能实施侵权假冒、虚假宣传、刷量刷单等行为，侵害他人权利或者构成不正当竞争的，依法承担相应责任。

中间那句话值得重视：开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据。

翻译过来就是：你说我没侵权。法院不会听完就算了，而是要你把证据摆出来。数据哪来的，训练过程有没有记录，模型怎么跑的，技术上讲不讲得通。摆得出来，抗辩成立；摆不出来，那句“我没侵权”就只是一句话。

这有点像行车记录仪。你装它不是为了给交警看，是为了万一出事，能自己说清楚当时怎么回事。合规机制现在扮演的是同一个角色。当然，类比不完全精确。行车记录仪只负责记录，合规机制除了留下记录，本身还得真的拦住侵权，它同时是证据和措施。

## 三份判决的答案

这不是推演。《意见》发布之前，法院已经用三份判决，把这笔账算给市场看过了。

**广州那一份**，广州互联网法院（2024）粤0192民初113号，2024年2月8日宣判。用户在平台上输入奥特曼相关的提示词，平台就输出与奥特曼形象实质性相似的图片。法院认定平台直接侵犯复制权和改编权，判赔一万元，同时责令平台采取关键词过滤措施。判断平台有没有过错的时候，法院点了三件事：欠缺投诉举报机制、欠缺潜在风险提示、欠缺显著标识。

**杭州那一份**，一审杭州互联网法院（2024）浙0192民初1587号，二审杭州市中级人民法院（2024）浙01民终10332号，2024年12月20日维持原判。这家平台提供在线训练LoRA模型的功能，用户上传奥特曼素材训出模型，其他用户叠加这个模型就能稳定生成奥特曼形象。法院认定平台不构成直接侵权，但构成帮助侵权，判赔三万元。平台辩称自己只是基于开源模型提供技术服务、侵权素材是用户上传的，应当进避风港。法院没有采纳。平台把包括奥特曼在内的知名IP在LoRA模型下单独列出，靠会员充值直接获利，本来可以过滤却没有去做。至于平台在用户协议里写的免责声明，法院的态度很干脆：声明免责不能免除法定义务。

**上海那一份**，也就是美杜莎案，一审上海市金山区人民法院2025年11月3日宣判，二审上海知识产权法院（2025）沪73民终1189号，2026年4月29日维持原判。同样是用户上传素材训练LoRA，同样生成了与在先作品实质性相似的图片。结果是用户李某被判赔五万元，平台不承担任何责任。差别在哪里？法院列了四条：平台向用户尽到了合理告知义务，每个模型页面都设置了举报入口，发布前有机器审核，收到起诉状后及时下架了全部涉案模型并更新了审核关键词。

同一类案子，同一种技术架构，判赔从一万到三万再到零。中间的差价不是运气，是机制。

![广州杭州上海三份AI侵权判决的判赔金额与合规机制对照](https://mmbiz.qpic.cn/mmbiz_png/et3ibfiaM9ia2wPcsp0w1FewZ83MkvuQR5fBRgBmy0ju3dTAj4s3u6Xbbej7thITHMOEMGH9IibS4xomkO2ibvVlzvxXjuxU4iaJ8nBuqZsnqNkyY/0?wx_fmt=png)

## 第一项机制是标识

不少人对标识的理解还停留在“AI生成的图上打个水印”。这个理解在2025年9月1日就过期了。

《生成式人工智能服务管理暂行办法》第十二条本身很短，它把标识义务整个转介了出去：

> 第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

接住这个转介的，是《互联网信息服务深度合成管理规定》第十七条第一款。它圈定了哪些服务必须做显著标识：

> 第十七条 深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：

> （一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；

> （二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；

> （三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；

> （四）沉浸式拟真场景等生成或者编辑服务；

> （五）其他具有生成或者显著改变信息内容功能的服务。

注意这一款自带一个限定：可能导致公众混淆或者误认的。不是所有AI生成内容都要显著标识，但智能对话、拟声、换脸这几类基本跑不掉。

真正的升级发生在2025年9月1日。那一天《人工智能生成合成内容标识办法》施行，配套的强制性国家标准GB 45438-2025同步实施。它把标识拆成了两层：显式标识是用户一眼能看见的，文字提示、图片上的标记、视频起始画面的提示；隐式标识是埋在文件元数据里的，肉眼看不见，要用工具才读得出来。

这两层的法律强度不一样，是最容易出错的地方：

> 第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

> 鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

元数据是“应当”，硬义务；数字水印是“鼓励”，不是必须履行的。我见过不少公司在水印上投了不少人力，元数据字段却没填对，方向正好反了。同时也别高估元数据。录屏、转码、截图、二次剪辑之后它就没了，指望它长期支撑侵权溯源并不现实。

还有一条容易漏掉的通道，是第九条给“不带显式标识”留的口子：

> 第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。

如果你的产品面向的是需要“干净成片”的商用客户，这条是你的合法出口，但它绑着两个条件：用户协议里得写明标识义务和使用责任，日志得留够六个月。少一个，出口就不成立。

回头看广州那个案子，“欠缺显著标识”是法院认定平台有过错的三条理由之一，那还是在标识办法施行之前。现在这条线抬高了。

## 第二项机制是投诉举报

《暂行办法》第十五条把这件事讲得很细：

> 第十五条 提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

一条里藏着四件事：

1. **入口要便捷**。设置便捷的投诉、举报入口
2. **流程要公开**。公布处理流程
3. **时限要公布**。公布反馈时限
4. **结果要反馈**。及时受理、处理公众投诉举报并反馈处理结果

四件里缺一件，这个机制就是残的。

《意见》第（七）条则给生成式AI配了一个专属的避风港：

> （七）审慎认定生成式人工智能服务提供者的侵权责任。生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益，经权利人通知，生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。通知应当包括构成侵权的初步证据及权利人的真实身份信息。网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，该网络用户应当依法承担侵权责任；经权利人通知，生成式人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施，权利人依据民法典第一千一百九十五条的规定请求该网络用户、生成式人工智能服务提供者承担民事责任的，人民法院依法予以支持。

这段话有三层。

1. **通知了不处理就要赔**。权利人通知了、你没有及时采取必要措施，你就得赔
2. **通知本身有门槛**。得带着侵权的初步证据和权利人的真实身份信息，随手发一封邮件不算数，这是给平台的保护
3. **必要措施不是删链接**。这里说的是“停止生成侵权内容”“屏蔽相关生成指令”。传统的通知删除针对的是已经躺在服务器上的内容，删完就结束；生成式AI要你回到模型这一侧动手，让它往后生成不出来

需要说明的是，第（七）条管的是人格权益这一路，名誉权、隐私权这一类。著作权的通知处置仍然走《民法典》里网络服务提供者那套规则。但两条路的入口是同一个：你得先有一个能够接收通知的地方。

广州那个案子的问题就出在入口上。平台在用户协议里声明不审查用户上传的内容，又拿不出证据证明自己在网站显著位置展示过投诉渠道，法院据此认定它连基本的审查监管责任都没有尽到。美杜莎案的平台恰好相反，每个模型页面都有举报入口，收到起诉状就下架，最终零责任。

还有一项常被忽略的动作，叫转通知。收到权利人的通知之后，你不光要自己处理，还得把这份通知转给发布内容的那个用户。美杜莎案里，法院认定平台“客观上尽到了‘采取必要措施’‘转通知’义务”，转通知在其中是独立的一项，不是附带的。

## 第三项机制是训练数据留痕

这是五项机制里最贵的一项，也是创业团队最容易跳过的一项。

《暂行办法》第七条划的是训练数据的底线：

> 第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

> （一）使用具有合法来源的数据和基础模型；

> （二）涉及知识产权的，不得侵害他人依法享有的知识产权；

> （三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

> （四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

> （五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第十九条则规定了监管来检查时的配合义务：

> 第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

把第十九条和《意见》第（十二）条并排放着看，你会发现要交的材料几乎是同一份。区别只在于交给谁：一份交给主管部门，一份交给法官。所以留痕这件事，做一次可以用两回，这是它唯一让人欣慰的地方。

具体留什么，国家标准《生成式人工智能服务安全基本要求》讲得最细。它最初是2024年3月发布的技术文件TC260-003，内容后来升格成了推荐性国标GB/T 45654-2025。它按语料来源分成四类，要求各不相同：

1. **开源语料**。要有开源许可协议或者相关授权文件
2. **自采语料**。要有采集记录，别人已经明确说了不可采集的就不要采
3. **商业语料**。要有具备法律效力的交易合同，对方连来源、质量、安全承诺都拿不出来的，不应当使用
4. **用户输入当语料**。要有用户的授权记录

这份清单读起来还是行政要求的味道，但《意见》之后它的用途变了。真打起官司，你说自己的模型跟对方的作品没有关系，法官不会陪你讨论技术原理，他会让你把这些东西摆出来。

## 第四项机制是输出端过滤

《暂行办法》第十四条分两款，管的是发现问题之后怎么办：

> 第十四条 提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

> 提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第一款里“采取模型优化训练等措施进行整改”这半句是关键。它要的不是删除，是整改到不再生成。

广州那个案子判得最直白。法院不只判了赔偿，还责令平台采取关键词过滤措施，并且给了一个可以验证的标准：防范程度要达到用户正常使用与奥特曼相关的提示词，不能生成与案涉奥特曼作品实质性相似的图片。这是一条结果标准，不是动作标准。你做没做过滤不要紧，过滤到什么程度才要紧。

杭州那个案子提供了另一个判断点。法院注意到，叠加LoRA模型之后，平台能够稳定输出特定的奥特曼形象特征，而不是随机撞上的。能够稳定输出，说明技术上可控；技术上可控却不去控制，就是过错。

顺着这个思路，有一个相当实用的自测：把你的产品功能挨个过一遍，哪些功能能让用户稳定地、可重复地拿到特定的侵权结果？那些功能就是法院眼里你“本来可以采取措施”的地方。

删除图片是擦掉地上的水，过滤是关掉水龙头，法院要的是后者。当然，法院也没有要求你把水龙头焊死。杭州二审说得很清楚，要求平台对用户输入的每一份训练数据逐一审查，既缺乏技术可行性，也与网络服务提供者的定位不符。注意义务要跟你的技术能力和获利程度相匹配。赚得多、控得住的，义务就高。

## 第五项机制是风险告知

前面四项都要花钱。第五项几乎不花钱，却是《意见》里反复出现的一类要求。

第（九）条讲AI产品责任的时候，把说明和警示放到了“重点审查”的位置：

> （九）准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义，依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的，生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时，应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度，以及是否符合相关国家标准、行业标准等因素，并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。

这一条严格来说管的是有实物载体的AI产品，机器人、智能硬件、车这一类，纯软件服务不直接适用。但它透露的判断方法是通用的：法院看你有没有把“这东西能干什么、不能干什么、可能出什么问题”讲清楚。

更能说明问题的是第（十三）条，它给开源方留了一扇门，而那扇门是有条件的：

> （十三）依法合理认定涉人工智能开源软件相关方的法律责任。审理涉开源软件案件，认定开源软件开发者、提供者以及后续开发者、提供者的侵权责任，应当综合考量开源许可协议类型、权利限制的具体内容、安全合规举措和信息披露程度等因素，依法给予开源软件开发者、提供者适当的责任豁免。开源软件开发者、提供者以免费开源的方式提供涉人工智能软件研发所需要的部分代码模块，并公开说明其功能和安全风险，他人使用该代码模块导致侵权的，人民法院可以认定开源软件开发者、提供者不承担侵权责任。

读仔细一点：豁免不是因为你开源了，是因为你在开源的同时“公开说明其功能和安全风险”。说明是条件，不是姿态。同样把代码模块免费放出去，写了风险说明的那一家可以不担责，没写的那一家不在这个豁免范围里。

美杜莎案里平台免责的四条理由，打头的一条就是向用户尽到了合理告知义务。

这一项的性价比是五项里最高的。文档、弹窗、用户协议里的风险条款、模型卡上的能力边界说明，成本不过几个人天，但在过错判断里它是实打实的一项。反过来说，产品页面把AI吹得无所不能、一条风险提示都没有的，出了事，这些宣传文案会被对方拿去当证据用。

## 五项机制叠在一起，说的是同一件事

标识、投诉举报、训练数据留痕、输出端过滤、风险告知，单看是分散在四份规范里的五条义务，叠在一起看，它们回答的是同一个问题：出事之后，你能不能证明自己当时已经尽力了。

![标识投诉举报训练数据留痕输出端过滤风险告知五项机制汇入过错判断](https://mmbiz.qpic.cn/mmbiz_png/et3ibfiaM9ia2zXicpkKPjnZNHX1veqiaYJxe43HhLI6oo58gHmgR4TKGLcuc5mzH3Dk4cvDJaFbGWdicia7bUN97zguYPOdkVrzfNZgBoKMtASt9s/0?wx_fmt=png)

《意见》第（三）条把“所采取的措施及技术上的可能性”写进了过错考量因素；第（十二）条把训练数据的举证压到了开发者身上；第（十八）条在审查AI生成内容能不能当证据时，要看的是模型训练、算法设计和生成内容过滤机制。三条指向同一个地方。法官不看你说了什么，看你留下了什么。

这就是合规机制性质变化的全部含义。它过去是一笔成本，现在是一份资产，只不过这份资产要等到你被起诉的那一天才变现。

如果你正在推进AI产品上线、或者已经收到过权利人的通知函，需要对照这五项机制做一次体检，可以通过[预约咨询](https://fazhuli.cn/consult)找我。

## 参考来源

1. 《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号，2026年9月7日发布）。全文与逐条解读：https://fazhuli.cn/laws/she-ai-jiufen-anjian-shenli-yijian；最高人民法院官网发布页：https://www.court.gov.cn/zixun/xiangqing/511101.html
2. 《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等七部门令第15号，2023年8月15日施行）
3. 《互联网信息服务深度合成管理规定》
4. 《人工智能生成合成内容标识办法》（国家互联网信息办公室等四部门发布，2025年9月1日施行）
5. GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》
6. GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》（前身为TC260-003技术文件）
7. 广州互联网法院（2024）粤0192民初113号民事判决
8. 杭州市中级人民法院（2024）浙01民终10332号民事判决；杭州互联网法院（2024）浙0192民初1587号民事判决
9. 上海知识产权法院（2025）沪73民终1189号民事判决

## 作者简介

本文作者：吕盈辉，上海曼昆（深圳）律师事务所律师。毕业于中国政法大学，法律行业深耕近十年，曾在深圳某法院工作。专注新生代经济领域法律服务，对Web3、人工智能等领域有丰富实践经验与深刻见解。

全平台账号：老吕谈新钱，欢迎关注。