---
title: "AI换脸诈骗，工具方和平台各担什么责任？"
section: "深度解读"
slug: "2026-07-28-AI换脸诈骗-工具方和平台各担什么责任"
canonical_url: "https://fazhuli.cn/articles/a_2bkovnag1tr"
date: "Tue Jul 28 2026 08:00:00 GMT+0800 (China Standard Time)"
author: "吕盈辉律师"
tags: ["AI换脸", "深度合成", "平台责任"]
---

# AI换脸诈骗，工具方和平台各担什么责任？

作者：吕盈辉律师
发布日期：Tue Jul 28 2026 08:00:00 GMT+0800 (China Standard Time)

## 摘要

AI换脸伪造券商分析师诈骗后，工具方、素材方、平台方和被冒名机构各自的责任边界，附三个真实案号。

## 正文

AI换脸伪造券商分析师实施诈骗，实施诈骗的人构成诈骗罪没有悬念，链条上游的三个角色则各有各的民事责任落点：工具方在明知用途仍然提供软件、素材和教程时担责，素材方未经同意处理人脸信息构成个人信息权益侵害，平台方在知道或者应当知道之后不处置要承担连带责任。被冒名的券商对受骗投资者原则上不承担赔偿责任。三份已经生效的判决分别画出了这三条路径。

![AI换脸责任链条示意：一张空白面具沿着数只手依次传递，最终戴到一个西装人形脸上](https://mmbiz.qpic.cn/mmbiz_png/et3ibfiaM9ia2xrCun74yiaLCkc9PQDERUgPrnyhEhbaWwv1xKHR8ticf7arMPF5fzpsqRngenYZLlN4zdUCRoHCXbGNiaJkKIB9NHz6Ic1rbBPsU/0?wx_fmt=png)

闲鱼上有个商品，标价9.9元，名称是“全新AI数字人直播系统”。介绍写着数字人克隆、音视频实时驱动、双数字人同台互动、AI自动生成直播话术，号称24小时无人不间断开播。

这9.9元买到的东西，正在被用来伪造券商分析师。

今年7月以来，银河证券、国盛证券、中泰证券、华福证券、华鑫证券等近10家券商密集发布风险提示（据[上海证券报报道](https://finance.sina.com.cn/roll/2026-07-25/doc-iniixwvs9226470.shtml)）。[证券时报](https://www.cs.com.cn/tj/01/2026/07/09/tjdetail_2026070910023243.html)梳理发现，2025年以来遭遇App仿冒、伪造身份诈骗的券商多达30余家，广发证券、方正证券、中信建投等头部机构都在名单上。华中某券商的一位受害投资者，被拉进所谓研究所联席所长的微信群，按指引下载假股票软件，最终转入180余万元，钱再也取不出来。华南某券商披露，2025年接到的假冒案件线索超过1900条，涉案金额3000万元。

实施诈骗的人会被抓，这没有悬念。真正没有定论的是这条链条上游的几个角色。销售数字人系统的、接单克隆真人形象的、让仿冒直播间开了三个月的平台，他们要不要赔偿，赔多少，凭什么。

如果你在做数字人SaaS、声音克隆、AI视频生成，或者负责一个内容平台的审核，接下来这三份已经生效的判决跟你的业务直接相关。三个案子的事实背景都不是证券诈骗，但它们各自确立的责任路径，正好覆盖这条链条上的三个位置。

![四端责任链条图：工具方、素材方、平台方、实施诈骗方依次相连，各自标注法律落点](https://mmbiz.qpic.cn/sz_mmbiz_png/et3ibfiaM9ia2zicl5FibUewo9PypBAElCCdTibghdlA5Z8C3rMKFfsQusPm7tHZKvavc5YLOvO7sZibKGO4vSx5MeKc8sk6A8a7B3Qc2tdpU6r1og/0?wx_fmt=png)

## 法院追究的不是“你用了AI”，是“该标的没标”

广州互联网法院2024年2月8日判决的一个案子，案号**（2024）粤0192民初113号**。被告运营一个AI绘画网站，用户输入提示词就能生成与奥特曼高度相似的图片。著作权人起诉，索赔30万元。

侵权成立这部分没什么新意。真正要紧的是法院怎么论证被告“有过错”。判决书列了三条：这个网站没有建立投诉举报机制，没有在用户协议里提示知识产权风险，没有对生成内容添加显著标识。三样都缺，法院据此认定服务提供者未尽合理注意义务，主观存在过错，判赔1万元。

请留意这个逻辑的走向。原本写在行政规章里的合规义务，本来是网信办检查你、处罚你的依据，现在被法院用来认定民事赔偿责任。你没标识，行政上也许只是被约谈整改；可一旦有人起诉你，这个“没标识”就成了证明你有过错的现成证据。

时间点更值得盯紧。这份判决作出于2024年2月，而《[人工智能生成合成内容标识办法](https://fazhuli.cn/laws/ai-shengcheng-hecheng-neirong-biaoshi-banfa)》2025年9月1日才施行。法院当时援引的是《[生成式人工智能服务管理暂行办法](https://fazhuli.cn/laws/shengchengshi-ai-fuwu-guanli-banfa)》和《[互联网信息服务深度合成管理规定](https://fazhuli.cn/laws/shendu-hecheng-guanli-guiding)》。标识义务转化为赔偿责任，不需要等标识办法生效，2024年就已经这么判了。

做数字人克隆的公司，正好落在《深度合成规定》第十七条第一款划定的范围里：

> 第十七条 深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：
>
> （一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
>
> （二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
>
> （三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
>
> （四）沉浸式拟真场景等生成或者编辑服务；
>
> （五）其他具有生成或者显著改变信息内容功能的服务。

“1:1克隆音色”落在第二项，“克隆形象”落在第三项。这两项不是灰色地带。

## 销售软件不必然担责，销售软件加素材加教程就要担责

工具方最常用的抗辩是技术中立：我只提供技术，下游拿去干什么与我无关。

这个抗辩有边界，边界在哪里，2023年就有判决画出来了。

杭州互联网法院**（2023）浙0192民初4563号**，全国首例“AI换脸”个人信息保护民事公益诉讼，由杭州市萧山区人民检察院提起。被告虞某用换脸软件伪造视频在社交群组传播，这部分另案追究刑事责任。公益诉讼盯的是另一组行为：他对外销售换脸软件、传授使用教程、提供换脸所需的人脸素材。

法院的认定是，虞某在明知他人可能将软件用于侵犯个人信息等不正当目的的情况下，仍然销售软件、提供素材并传授教程，使得不特定主体个人信息被侵害的社会危险性进一步扩大，应当承担民事责任。判决三项：停止侵权并删除留存的个人信息，在《法治日报》刊发赔礼道歉声明，支付公益损害赔偿款**6万元**（案情详见[最高人民检察院报道](https://www.spp.gov.cn/spp/zdgz/202308/t20230823_625773.shtml)）。

这里有个流传很广的误读需要澄清。这个案子里虞某是唯一被告，承担的是他自己的侵权责任，判项中没有任何连带内容。拿它论证“工具方与诈骗方要连带赔偿”，判决书里找不到支撑。

触发责任的组合是“明知”加上“主动供给三件套”。单纯销售一个通用工具，与手把手教对方怎么伪造某个人的脸，在法律评价上不是一回事。庭审中检察机关的那句话概括得准确：技术中立不意味着价值中立。

对做工具的公司，能拉开距离的动作其实很具体：

1. **实名验证并留痕**。对购买方做身份核验，记录留存，别让匿名批量购买成为常态。
2. **合同写明禁止用途**。不要只写一句“仅供合法用途”，把禁止用于伪造他人身份、金融荐股等具体场景列出来。
3. **产品内嵌反诈提示**。在克隆功能的操作路径上给出风险提示，而不只是藏在用户协议里。
4. **保留并执行拒绝服务的权利**。对明显异常的批量克隆请求，合同里要有拒绝的权利，实际也要真的拒绝。

这几项做到了，“明知”这个要件就很难被证成。

顺带纠正一个合同误区。数字人SaaS卖给企业客户，买方不是消费者，《消费者权益保护法》在这里用不上，免责条款的效力要按《民法典》第四百九十七条的格式条款规则判断。何况无论条款怎么写，都对抗不了你已经明确知道对方要拿去干什么。

## 克隆一张脸，判了两千块

素材方这一环，指的是采集真人形象和音色做成模板或数字人的角色。被冒名的分析师本人如果要维权，能拿到什么，北京互联网法院**（2023）京0491民初3820号**给了一个现实答案。

原告廖某是国风创作者、汉服模特，抖音双号粉丝合计超过千万，两个账号的说明处都标注了“未授权给任何收费软件”。一家公司未经同意，用她出镜的视频制作AI换脸模板，上传到自家换脸App里供付费会员使用。她起诉，主张肖像权和个人信息权益，索赔5万元。

法院的两个结论看起来矛盾，实际自洽。

不构成侵害肖像权。模板视频里原告的面部已经被替换，公众看到的是别人的脸，识别不到原告本人。判决还说明，面部之外剩下的妆容、发型、服饰、灯光、镜头切换，并不是与特定自然人无法分割的要素。

构成侵害个人信息权益。制作模板要收集含有原告人脸的视频，检测人脸关键点，把新面孔与原视频的面部特征、表情通过算法融合，这一整套属于对个人信息的收集、使用、分析，没有取得同意就是侵权。法院特别指出，视频虽然公开发布，但账号写着“未授权给任何收费软件”，不能推定原告同意。

这里要引一条被广泛引错的条文。《个人信息保护法》第四十四条不是什么平台协助义务，它是被侵权人告工具方的依据，本案判决正是援引它：

> 第四十四条 个人对其个人信息的处理享有知情权、决定权，有权限制或者拒绝他人对其个人信息进行处理；法律、行政法规另有规定的除外。

判赔多少？精神损失**500元**，财产损失含合理维权费用**1500元**，合计**2000元**。原告诉请5万元。

法院酌减的理由写得直白：被告对原告个人信息的使用已经无法使一般公众准确识别到原告本人，损害较小；被告获利也主要来自视频里的劳动投入而不是人格要素，换脸服务的重点不是利用原告的面部，而是给用户换妆。

于是形成一个尴尬的局面。被克隆的分析师个人去起诉，取证、请律师、开庭，走完一轮拿到两千块。这正是虞某案要走公益诉讼的原因，也解释了这类行为的实际约束力为什么主要来自行政处罚和刑事追诉。

对做数字人的公司来说，这个数字不该被读成“风险很小”。私益诉讼赔得少，不代表另外两条线也轻。未履行标识义务的行政处罚梯度是警告、通报批评、责令限期改正、责令暂停服务直至罚款；素材来源涉及非法获取人脸信息的，触碰的是侵犯公民个人信息罪。

## 平台这一环，法条经常被搬错

仿冒账号和数字人直播间挂在B站、抖音、小红书上，平台什么时候要担责，实务里搬错法条的情况相当多。

最常见的错误是援引《电子商务法》第四十二条到第四十五条。这组条文确实规定了通知删除和连带责任，但它的适用主体限于“电子商务平台经营者”，客体限于知识产权侵权。内容平台上的冒名诈骗，主体和客体两头都对不上。闲鱼这类二手交易平台可能落入电商法，但适用的也是平台经营者的一般义务，不是知识产权那几条。

正确的落点在《民法典》侵权责任编：

> 第一千一百九十五条第二款 网络服务提供者接到通知后，应当及时将该通知转送相关网络用户，并根据构成侵权的初步证据和服务类型采取必要措施；未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。

> 第一千一百九十七条 网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。

两条的区别在于触发方式。第一千一百九十五条要有人发出合格通知，平台收到后不处理，就对通知之后扩大的那部分损失负责。第一千一百九十七条不需要通知，只要平台“知道或者应当知道”，不处理就要担责。

券商官网公告和[中国证券业协会](https://www.sac.net.cn/wlzf/hmd/)按月发布的仿冒机构黑名单，作用就在这里，它们把“应当知道”往前推了一大步。仿冒某券商的直播间，在该券商已经发布风险提示、协会已经把它列入黑名单之后还在正常开播，平台再主张不知情，说服力就很有限。

再叠加前面奥特曼案那条路径，平台自己有没有履行标识核验义务，也会被算进过错认定。《标识办法》第六条要求提供内容传播服务的平台核验文件元数据里的隐式标识，按“属于”“可能为”“疑似”三档添加提示。只在用户协议里写一句禁止上传AI生成内容，免不掉这项义务。

## 被冒名的券商要不要赔偿投资者

这个问题在受害者一方问得最多，答案是原则上不赔，理由有三条：

1. **券商是被冒名的受害方**。它与受骗投资者之间不存在因这场诈骗产生的合同关系。
2. **适当性义务的前提不成立**。这项义务经常被拿来主张，但它适用于券商自己向投资者销售产品或者提供服务的场景，冒名场景下前提就不存在。
3. **封禁仿冒App不是券商的法定作为义务**。封禁权限在应用商店和监管机关手里，券商能做的是发布提示、向监管报送。

例外的口子理论上有。券商明确知悉某个具体的仿冒事实，比如收到投资者举报或监管转办，却长期不发提示、不作报送，后续又有投资者受骗，这种情形按过错责任主张还有讨论空间。但检索下来没有找到支持投资者向被冒名券商索赔的公开判例，在有判决出来之前，不建议把它当作可行的求偿方向。

## 强制的那个标识，一录屏就没了

行业里有个流行说法：等《标识办法》的强制水印落地，AI生成的诈骗视频就能通过司法鉴定溯源了。这个说法建立在对第五条的误读上。

> 第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
>
> 鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
>
> 文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

两款话，两个动词。文件元数据用的是“应当”，数字水印用的是“鼓励”。

![标识对比图：上排文件元数据在录屏后消失，下排数字水印在录屏后仍然保留](https://mmbiz.qpic.cn/sz_mmbiz_png/et3ibfiaM9ia2z56sHXJz6zHCib626B00dgvJRC3PK1CUULSKW9C8fLH0uYe9QhjxPrq8GNtA0Ueju2YnwibSqX5SqaZLbXdSjNApiaevq5xvmbDk/0?wx_fmt=png)

这个区别在诈骗场景里是决定性的。文件元数据嵌在文件头部，录屏一遍没了，转码一遍没了，截图、二次剪辑、转发，全都没了。而真正能扛住二次传播的数字水印，法律上并不强制。诈骗分子从数字人系统导出视频，随手录个屏再发到直播间，法定的那个标识早就不存在。

由此有两个实务判断：

1. **取证方不要指望从流传的诈骗视频里提取到法定标识**。固证重心得往传播链前端移，去调取平台后台日志、原始文件和上传记录。这里再纠正一条常被引错的依据：调取数据的配合义务在《数据安全法》第三十五条，不是第二十一条，第二十一条讲的是数据分类分级保护制度。
2. **做服务的一方要反过来想**。元数据标识是合规底线，但当纠纷发生、你需要自证“这段视频不是我家产品生成的”时，仅有元数据完成不了溯源。数字水印虽然不是法定义务，却是你在纠纷里唯一拿得出手的自证能力。这笔投入眼下没人强制你做，出事那天它就是你和赔偿之间的距离。

从虞某案到廖某案再到奥特曼案，三份判决摆在一起，路径其实相当清晰。法律并没有因为你用了AI就多罚你一分，它盯的始终是那两件老事：明知还给，以及该标不标。工具越便宜，这两件事就越值钱。

如果你所在的公司正在做数字人、声音克隆或者AI视频生成业务，合同里的用途条款、产品里的标识实现、客户准入的验证留痕，这三处现在花的时间，都是在给将来的过错认定做减法。有具体场景需要落地判断的，可以通过[咨询页面](https://fazhuli.cn/consult)与我联系。

## 参考来源

1. 上海证券报《利用AI证券诈骗引关注 券商密集发布风险提示》，2026年7月24日：https://finance.sina.com.cn/roll/2026-07-25/doc-iniixwvs9226470.shtml
2. 证券时报《AI换脸、高仿APP！起底“假券商”荐股大骗局》，2026年7月9日：https://www.cs.com.cn/tj/01/2026/07/09/tjdetail_2026070910023243.html
3. 最高人民检察院《透视“AI换脸”侵犯个人信息公益诉讼案：换脸，不是想换就换》，2023年8月23日：https://www.spp.gov.cn/spp/zdgz/202308/t20230823_625773.shtml
4. 杭州互联网法院（2023）浙0192民初4563号民事判决
5. 北京互联网法院（2023）京0491民初3820号民事判决
6. 广州互联网法院（2024）粤0192民初113号民事判决
7. 《互联网信息服务深度合成管理规定》，2023年1月10日施行：https://fazhuli.cn/laws/shendu-hecheng-guanli-guiding
8. 《人工智能生成合成内容标识办法》（国信办通字〔2025〕2号），2025年9月1日施行：https://fazhuli.cn/laws/ai-shengcheng-hecheng-neirong-biaoshi-banfa
9. 中国证券业协会非法仿冒机构信息公示：https://www.sac.net.cn/wlzf/hmd/

## 作者简介

本文作者：吕盈辉，上海曼昆（深圳）律师事务所律师。毕业于中国政法大学，法律行业深耕近十年，曾在深圳某法院工作。专注新生代经济领域法律服务，对Web3、人工智能等领域有丰富实践经验与深刻见解。

全平台账号：老吕谈新钱，欢迎关注。