AI公司有哪三条红线不能踩？
AI公司不能踩的三条红线是：不能拿“内容是AI生成的”当免责理由、不能省略生成内容标识义务、不能靠用户协议把责任转移给用户。三条的依据分别是最高人民法院2026年9月7日《关于依法审理涉人工智能纠纷案件的意见》第（十二）条与第（四）条、《互联网信息服务深度合成管理规定》第十八条与《人工智能生成合成内容标识办法》第十条第二款、以及《生成式人工智能服务管理暂行办法》第九条。判决已经印证：用户用模型生成侵权图一笔未画仍判赔五万元，平台写在用户协议里的免责声明被法院认定不能免除法定义务。
9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，文号法发〔2026〕10号（全文与逐条解读见本站法规页）。上一篇拆了AI公司必须建起来的五项机制：标识、投诉举报、训练数据留痕、输出端过滤、风险告知。
这一篇讲反过来的事。有三句话，是AI公司出事之后最常拿出来的辩解，而它们在法庭上都说不通。讲完红线，再给三类公司排一个动手顺序。
第一条红线，AI生成不是免责事由
这是最常见的第一反应：内容是模型生成的，我既没画也没写，凭什么找我。
《意见》第（十二）条从头到尾都在做一件事，就是在开发者、提供者、使用者三方之间分配责任。能分配的前提，是三方都在责任范围之内。
（十二）依法规制涉人工智能侵害知识产权的行为。人工智能生成内容侵害他人著作权的，人民法院应当综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等因素，依法合理认定人工智能开发者、提供者、使用者的责任。人工智能开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。权利人主张人工智能提供者利用算法技术侵害其著作权的，应当提供相关证据。人工智能使用者知道或者应当知道在先作品存在，利用人工智能生成与在先作品实质相似的作品且无合理抗辩理由，在先作品权利人请求其承担侵权责任的，人民法院应予支持。利用人工智能实施侵权假冒、虚假宣传、刷量刷单等行为，侵害他人权利或者构成不正当竞争的，依法承担相应责任。
请注意关于使用者的那一句：知道或者应当知道在先作品存在，生成了与在先作品实质相似的作品，又拿不出合理抗辩理由的，权利人告他，法院支持。
“我只是输了一句提示词”，不在合理抗辩理由的范围里。
人格权这一头堵得更严。第（四）条把AI换脸、AI拟声、AI复活逝者一并写了进去：
（四）依法规制“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益的行为。利用生成式人工智能处理特定自然人或者死者的姓名、肖像等，不得违反法律、法规，不得违背公序良俗。除法律另有规定的外，未经自然人同意，利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开，该自然人主张行为人侵害其姓名权、肖像权等人格权益的，人民法院依法予以支持。除法律另有规定的外，未经自然人同意，使用自然人的声音作为训练语料，模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声，该自然人主张行为人侵害其声音权益的，人民法院依法予以支持。操控生成合成的能够识别特定自然人的虚拟数字形象、声音实施不当行为或者发表不实言论，降低该自然人或者他人社会评价的，人民法院应当依法认定构成对名誉权的侵害。利用人工智能技术擅自制作、使用死者的虚拟数字形象致使死者的姓名、肖像、名誉等受到侵害，死者近亲属依据民法典第九百九十四条的规定请求行为人承担民事责任的，人民法院依法予以支持。
这一条里其实藏着三个彼此独立的请求权，做数字人和AI分身产品的团队最好分开来看。
- 形象。未经同意用人家的姓名、肖像生成可识别的虚拟数字形象并使用公开，侵害姓名权、肖像权
- 声音。未经同意拿人家的声音当训练语料，模仿音色、语调、发音风格生成可识别的合成人声，侵害声音权益
- 言行。这一项最容易漏掉，即便形象和声音的授权你都拿全了，操控这个分身做不当行为或者发表不实言论、降低了本人或者他人的社会评价，仍然单独构成名誉权侵害。授权解决的是“能不能造这个分身”，解决不了“这个分身说了什么”
判决也是这么走的。广州那个案子里，图片是模型按用户指令生成的，平台照样被认定直接侵犯复制权和改编权。上海美杜莎案里的那位用户一笔没画，素材截取、模型训练、发布使用全程靠工具完成，判赔五万元。
刑事这一头同样没有留口子。第（二十）条把常见罪名列了一遍：
（二十）依法惩治利用人工智能实施的犯罪活动。利用人工智能实施诈骗、侮辱、诽谤、损害商业信誉、商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据、制作、贩卖、传播淫秽物品等行为，构成犯罪的，依法追究刑事责任。行为人激活辅助驾驶功能后利用私自安装的配件逃避辅助驾驶系统监测导致道路交通事故，构成犯罪的，依法追究刑事责任。
说到底，“AI生成”描述的是内容怎么来的，不是责任归谁。这两件事从来就不是一回事。
第二条红线，标识义务不能省略
上一篇把标识列为第一项机制，讲的是不做会扣分。这里讲它的另一面：不做、或者在标识上动手脚，本身就是独立的违法行为。
《互联网信息服务深度合成管理规定》第十八条只有一句话：
第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
《人工智能生成合成内容标识办法》第十条第二款把范围又扩了一圈：
任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
留意中间那半句：不得为他人实施上述恶意行为提供工具或者服务。
如果你的产品里有一个“一键去标识”“导出无水印版”的功能，这半句就是冲着它来的。上一篇提过标识办法第九条留了一个合法出口，用户确实可以申请不带显式标识的内容，但那个出口绑着两个条件：用户协议里写明标识义务和使用责任，相关日志留存不少于六个月。走出口是合规，绕出口是违法，中间没有灰带。
更麻烦的是第二层后果。《意见》第（十九）条把删改标识直接写进了妨害司法的行为清单：
（十九）依法规制利用人工智能不当取证等妨害司法秩序的行为。当事人利用人工智能自主学习、自主决策的特性，通过删除或者篡改生成合成内容标识、特定指令输入、选择性结果呈现、对抗性干扰等人为干预或者误导的方式取得虚假证据，捏造民事案件基本事实，进行虚假诉讼，企图侵害国家利益、社会公共利益或者他人合法权益的，人民法院应当依法驳回其诉讼请求，并根据情节轻重予以罚款、拘留；构成犯罪的，依法追究刑事责任。诉讼参与人或者其他人利用人工智能伪造证据，妨碍人民法院审理案件的，依据民事诉讼法第一百一十四条规定处理。诉讼参与人提交诉讼文书、案例检索报告等材料如系使用人工智能生成，在提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性，在提交法庭时对使用人工智能辅助情况作出说明，并对有关内容的真实性、准确性依法承担责任。
驳回诉请、罚款、拘留，构成犯罪的追刑责。标识这件事，从行政违法一路接到了诉讼里的不利后果。
还有一层常被忽略：传播端也有自己的义务。标识办法第六条要求提供网络信息内容传播服务的一方核验文件元数据，按照“核验到隐式标识”“未核验到但用户声明了”“都没有却检测到生成痕迹”三种情形，分别加上不同措辞的提示标识。如果你的产品既能生成内容、又带社区或者分发功能，你同时站在生成端和传播端，两头的义务都得担。
第三条红线，用户协议转移不了责任
几乎每一家AI公司的用户协议里都有这么一段：用户对其生成和发布的内容负责，平台不承担责任。
这段话有用，但它管得住的范围，比多数人以为的小很多。
杭州那个案子里，平台就是这么辩的。法院的回应很短：声明免责不能免除法定义务。
原因不复杂。标识、投诉举报、内容处置这些义务，是《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》直接设定给服务提供者的，属于行政法上的法定义务。这些义务的相对方是监管和公众，不是你的用户。你和用户之间签什么，改变不了你欠公众的那一份。
这不是说用户协议没有用。《暂行办法》第九条明确要求签：
第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。
协议真正能起作用的是三件事。
- 把使用规则写清楚。用户越界的时候，你才有依据按第十四条第二款采取警示、限制功能、暂停或者终止服务这些动作，否则处置本身就可能构成违约
- 分配你和用户之间的内部责任。你先对外赔了之后能不能向用户追偿，靠的就是这份协议
- 承载标识办法第九条那个合法出口所要求的告知内容
换个说法：用户协议管的是你和用户之间的账，管不了你和权利人、你和监管之间的账。
美杜莎案是这条边界最好的注脚。平台最终零责任，靠的不是协议里的免责条款，而是它真的设了举报入口、真的做了发布前审核、收到通知真的下架并更新了筛选关键词。协议没能把平台的责任推给用户，机制却把平台从责任里摘了出来。
三类公司先做哪几项
五项机制一次全建起来，对多数团队都不现实。按你所处的位置排个顺序。
刚起步的小团队。产品上线不久、人手有限：先做风险告知和投诉举报。这两项加起来不过几个人天。模型卡和产品页面把能力边界与风险讲清楚，用户协议补上标识义务和使用责任的条款，页面显眼的位置放一个能接收通知的入口，把处理流程和反馈时限一并公布。它们的共同点是成本极低，但在过错判断里是实打实的加分项。标识按规定该做的做，元数据字段别漏。训练数据留痕从今天开始记，历史部分补不回来就如实说明来源，说明比空白强。
已经有规模的平台。有UGC、有社区、有付费：你的风险画像和杭州那家最接近，重点在输出端过滤和内容处置。做一次功能盘点，找出哪些功能能让用户稳定地、可重复地拿到特定的侵权结果，模型市场、风格模仿、名人形象这类是高危区。首页和推荐位尤其要盯紧，杭州案里平台把知名IP在模型下单独列出来，成了法院认定它应当知道的直接证据。另外你很可能同时是生成端和传播端，标识办法第六条那套核验和加标的动作，需要单独排期。
只做模型和API的上游厂商。不直接面向公众：你有两个特殊之处。
一是适用范围的判断。《暂行办法》第二条把边界划得很细：
第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
看上去像是给你留了门。但第二十二条又把“通过提供可编程接口等方式”提供服务的组织算作提供者。两条合起来读，判断的关键不是你有没有前端界面，而是你的服务最终有没有到达境内公众。接口后面站着一群C端用户的，你就是提供者。
二是举证责任。《意见》第（十二）条那句“开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录”，点名的正是开发者。留痕对你不是可选项，是硬要求。如果你走开源路线，第（十三）条确实给了豁免，但豁免的条件是公开说明功能和安全风险，那份说明文档值得认真写。
窗口期不会太长
三条红线和五项机制，其实是同一件事的两面。法院现在有了统一的尺子，而这把尺子量的是你留下的痕迹。
《意见》发布之前，广州、杭州、上海三家法院各自摸索了两年，判出了一万、三万和零。现在最高法把这些摸索收拢成全国统一的裁判尺度，后面的案子只会越判越齐整。
对AI公司来说，真正的时间压力不在合规要花多少钱，而在于证据没法往回补。今天不记训练数据来源，明年被起诉时拿不出来；今天不建投诉入口，等收到通知函那天再上线，法院看的是通知到达的那一刻你有没有。
合规机制这份资产，只能从现在开始攒。
如果你正在推进AI产品上线、或者已经收到过权利人的通知函，需要对照这五项机制和三条红线做一次体检，可以通过预约咨询找我。
参考来源
- 《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号，2026年9月7日发布）。全文与逐条解读：https://fazhuli.cn/laws/she-ai-jiufen-anjian-shenli-yijian；最高人民法院官网发布页：https://www.court.gov.cn/zixun/xiangqing/511101.html
- 《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等七部门令第15号，2023年8月15日施行）
- 《互联网信息服务深度合成管理规定》
- 《人工智能生成合成内容标识办法》（国家互联网信息办公室等四部门发布，2025年9月1日施行）
- 广州互联网法院（2024）粤0192民初113号民事判决
- 杭州市中级人民法院（2024）浙01民终10332号民事判决
- 上海知识产权法院（2025）沪73民终1189号民事判决