AI数字人卖惨带货违法吗？

AI数字人卖惨带货违法，视频标了“内容由AI生成”也不能免责：AI标识只说明画面是机器做的，不说明故事是编的。用虚构身世诱导老人下单，民事上构成欺诈，可以按《消费者权益保护法》第五十五条退一赔三，增加赔偿不足500元的按500元算；直播形态还受2026年2月1日施行的《直播电商监督管理办法》约束，最高可罚200万元；不卖货、直接用苦情人设骗打赏转账的，则构成诈骗罪。

今年5月，一位79岁、不识字的老人独自坐上火车，要去山西运城看一个孩子。孩子叫小海，天天在手机里喊她“姨妈”，还约“姨姨妈妈”们去运城看杏花。乘警在车上注意到这位说不清去处的老人，蹲下来告诉她：手机里那个孩子是AI做的，那些亲热话是说给千千万万人听的。老人起初怎么都不肯信。

10月中旬，新京报和中国之声先后把“小海”的底翻了出来。同一张AI生成的少年脸，分散在辽宁、福建、河北等地的一批账号里，讲着同一套身世：跟着爸爸过，从小没妈，比赛落后，被同学欺负，躲在教室里吃馒头。哭着哭着，他就从怀里掏出一瓶食用油，请“姨姨妈妈”帮忙下一单。截至10月15日，“小海”话题在某短视频平台播放了6亿次。

这门生意不是第一次换脸。前几年是假冒明星的账号一口一个“姐姐”；去年是西装革履的“AI王建国”，被平台关停了一批；今年他的“儿子”小海接过剧本，同一个月，北京晚报又挖出一批第一人称卖土蜂蜜、黑芝麻丸的“AI老人”。每换一次脸，成本就低一截，现在照着教程十几分钟就能生成一条。

如果你在做数字人工具、带货矩阵、品牌店铺或者内容平台，这一波和你直接有关。这类玩法的法律后果，法院和监管其实已经算得相当清楚：标了“AI生成”不顶用，后果分三条线，民事、行政、刑事，一条比一条重。

标注AI不能免责

先说运营者最常见的一句辩解：我标了。

确实标了。新京报记者看到，大多数小海视频都带着“作品声明：内容由AI生成”，有的账号简介还写着“AI数字人，大家理性看待”。2025年9月1日起施行的《人工智能生成合成内容标识办法》要的那个标识，这些账号基本都挂上了。

问题在于，这个标识回答的是另一个问题。办法第三条给要标的东西下的定义是这样的：

人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

它告诉你，这段视频是机器做的。它没告诉你，单亲、没妈、吃馒头、爸爸住院，全是编的。

中国之声的报道里有个细节，把这道缝说得很透：有的老人把“AI生成”理解成“真事拍不到，只好用AI演一遍”。在他们眼里，角落那行小字就像电视法治节目右上角的“情景再现”，画面是演的，事是真的。

法院要的是另一句话。后面会讲到的一起判决，认定欺诈的理由里写得明明白白：“未声明系作品演绎”。翻成人话，就是没告诉观众“本片纯属虚构”。这句话，AI标识里没有。类比当然有边界，“情景再现”本身是在承诺故事为真，AI标识没有承诺，可也没有否认，这些账号赚的正是这块空白。

标识是一笔账，说没说实话是另一笔账。后一笔归《消费者权益保护法》第二十条管：

经营者向消费者提供有关商品或者服务的质量、性能、用途、有效期限等信息，应当真实、全面，不得作虚假或者引人误解的宣传。

标识办法管你用了什么工具，消法管你拿这个工具说了什么，做到前一项，抵不了后一项。

第一条线是退一赔三

AI小海目前还没有公开判决，但同一种打法，法院已经判过好几回，只不过当年演戏的是真人。

2021年7月，某短视频平台一个直播间演了一出戏：一个叫玲玲的女人遭受虐待，母女俩向直播间求助，主播号召观众解救、筹款。怎么筹？在直播间买货。一位观众23天里买了平安扣、貔貅等38件，花了15232.9元。后来有视频流出来，戏里的几个角色坐在一起吃饭，开庆功宴。读到判决书这一段，我是真替那位观众难受。

2023年7月，河北新河县法院一审宣判：构成欺诈，货款全退，另赔三倍，45698.7元。法院的原话是，直播中“虚构人物与故事情节，未声明系作品演绎”，那一整套解救筹款的剧情，“主要是为后来带货卖玉作情感铺垫”。

做数字人营销的公司，最好把这个案子细读一遍。法院没去纠结玉是真是假，判欺诈靠的只是那个编出来的购买理由。把几份同类判决的说法放在一起，法院实际上只看四件事：

1. 卖方是故意编的。身世、遭遇、筹款理由是事先设计好的剧本。
2. 没声明是演的。直播或视频里没有告诉观众“情节为虚构”。
3. 观众信了。把剧情当成了真事，对卖方产生同情或信任。
4. 正是因为信了才下单。购买决定和剧情之间有直接的因果关系。

北京互联网法院2024年底判的“冷家恩怨”卖玉案里，还有一句话专门回应“观众自己该看出来”的说法：观众受剧情影响，“出于同情心和正义心而消费亦属正常现象”。那起案子原告8单花了34097元，三名被告连带赔了三倍，102291元。

把小海的身世代进这四件事，件件对得上。法院用的是消法第五十五条：

经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或者接受服务的费用的三倍；增加赔偿的金额不足五百元的，为五百元。法律另有规定的，依照其规定。

这条有个保底，对小额带货格外要命。小海链接里两瓶紫苏籽油卖99元，三倍是297元，不到500元，按500元算，再加上退回的99元，一单要掏599元。运营者这一单拿到多少？品牌方给的佣金比例是52%，51块多。

接下来，运营者会说第二句：货不是我卖的，我只是挂了个链接。

这条路也不好走。最高人民法院2022年的网络消费司法解释（法释〔2022〕8号），专门给直播带货在第十二条写了一款：

消费者因在网络直播间点击购买商品合法权益受到损害，直播间运营者不能证明已经以足以使消费者辨别的方式标明其并非销售者并标明实际销售者的，消费者主张直播间运营者承担商品销售者责任的，人民法院应予支持。

没标明“我不是卖家，卖家是谁”，消费者就可以把带货号直接当卖家告。这一条写的是直播间，短视频挂车的情形，法院大概率会按同样的思路去看交易外观。“我把阿胶糕放上来”“这是我家产的”这类第一人称话术，正好把带货号往卖家那一侧推。

标明了，也只是换个人赔。河南镇平县法院2025年11月判过一起：主播在直播间演剧本卖饰品，因为标明了实际卖家，前一场官司里没按卖家担责；消费者转过头起诉挂货的店铺，法院认定店铺委托主播卖货，主播欺诈，店铺作为经营者就得担这个责，照样退一赔三。

带货号和店铺之间，总有一个要买单：

1. 带货号没标明卖家。按司法解释第十二条，消费者可以把带货号直接当卖家告。
2. 带货号标明了卖家。消费者转告挂货的店铺，店铺为它委托的主播的欺诈担责。

品牌方开出五成以上的佣金买流量，推广者那套话术的法律后果，也一并记到了自己账上。

第二条线是罚款下架

民事是消费者一个一个来告，行政是监管直接上门。2026年2月1日施行的《直播电商监督管理办法》，专门给“AI生成的人物”写了两条。

第三十七条管标识，要求“持续”：

直播间运营者使用人工智能等技术生成的人物图像、视频从事直播电商活动的，应当符合有关法律、法规、规章和强制性国家标准的要求，并依照国家有关规定进行标识，持续向消费者提示该人物图像、视频由人工智能等技术生成。

在直播电商活动中使用人工智能等技术生成的人物图像、视频，存在违反法律、法规、规章规定情形的，由管理或者使用该人物图像、视频的直播间运营者依法承担责任。法律、法规、规章另有规定的，依照其规定。

“持续”两个字意味着，开播时闪一下、角落里挂个小水印，未必过得了关。第二款把责任落在“管理或者使用”这个数字人的直播间运营者身上：卖形象模板的人一般不在这一款的射程里，拿它卖货的人跑不掉。

第三十四条第二款管内容，标了也不许编：

直播间运营者、直播营销人员不得利用人工智能等技术手段，编造、传播虚假或者引人误解的商业信息，假冒他人进行商业宣传，欺骗、误导消费者和其他经营者。

这两条放在一起读，就是上一节那两笔账的行政版。违反第三十四条的，办法第六十二条指向《反不正当竞争法》第二十五条第一款，最高罚一百万元，情节严重的罚一百万元到二百万元，还可以吊销营业执照；构成虚假广告的，按《广告法》处罚。

这部办法管的是直播。短视频挂车不在它的射程里，但也跑不出《广告法》。北京晚报调查的那批“AI老人”就是现成的例子：AI生成的果农老人捧着罐子说“看看我好不容易采来的悬崖土蜂蜜”，挂出去的却是别人家店铺的链接。记者把一条这样的视频放给10位65岁以上的老人看，只有1位认出是AI。《广告法》第二十八条给虚假广告列了一张清单，第二款第二项里写着产地和生产者：

广告有下列情形之一的，为虚假广告：

（一）商品或者服务不存在的；

（二）商品的性能、功能、产地、用途、质量、规格、成分、价格、生产者、有效期限、销售状况、曾获荣誉等信息，或者服务的内容、提供者、形式、质量、价格、销售状况、曾获荣誉等信息，以及与商品或者服务有关的允诺等信息与实际情况不符，对购买行为有实质性影响的；

（三）使用虚构、伪造或者无法验证的科研成果、统计资料、调查结果、文摘、引用语等信息作证明材料的；

（四）虚构使用商品或者接受服务的效果的；

（五）以虚假或者引人误解的内容欺骗、误导消费者的其他情形。

“我好不容易采来的”说的就是生产者和产地，老人下单图的恰恰是这一句。这一类其实比小海还好定性，几乎没有解释空间。AI生成广告标了AI也不免责的问题，另见《AI生成的广告违法吗？标了AI标识也不免责》。

第三条线是诈骗罪

做这行的人，最关心的其实是另一个问题：会不会坐牢？

我的判断是，大多数小海到不了这条线。老人花了99元，收到了一瓶油，这是一笔真实的买卖，只是贵了三十来块，买的理由是假的。刑法上的诈骗，要求以非法占有为目的骗取财物，有真货、有对价的高价带货，司法实践一般按民事欺诈加行政违法处理。

线画在哪里？看钱换回来的是什么。江苏阜宁县法院2025年12月判过一起：一伙人冒充女主播，在短视频平台上“虚构悲惨身世、单身女性形象博取同情”，再用“完成任务才能转正”“打赢PK赛就能见面”诱导对方充值打赏，还拿内部账号操控PK输赢。被害人掏出去的钱，什么也没换回来。九名被告人全部定了诈骗罪，其中一人涉案814万余元，判了四年九个月。

第二百六十六条　诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金；数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。本法另有规定的，依照规定。

同样是苦情人设，拿来卖货，是退一赔三；拿来要钱，是诈骗罪。小海的剧本里已经有“校园带货大赛就差两单了”，离“小海住院了，姨姨妈妈能不能帮一把”只差一句台词。数字人不用睡觉，一个人可以同时养一批号，这句台词一旦说出口，数额攒起来会非常快。

这门生意该怎么调整

数字人带货本身不违法，标识办法和直播电商办法都是在给它立规矩，没有要禁掉它。出问题的是写进剧本里的那些东西。

1. 数字人工具方和模板卖家。别把“认亲”“卖惨”做成现成的话术包往外卖。直播电商办法把责任压在使用者身上，可你卖的如果就是一套“单亲少年加姨姨妈妈加带货大赛”的成品剧本，出事以后很难再说自己只是提供了一个中性的工具。标识功能默认开启、用户删不掉，是你这一侧最便宜的保险。
2. 带货矩阵和MCN。给人设划几条禁区：不虚构身世、亲属关系、疾病和贫困，不用第一人称冒充产地和生产者，不说“帮我完成比赛”这类把下单包装成帮人的话。直播页面要显著、持续地标明实际卖家是谁。营销用语的审核记录，直播电商办法要求保存不少于三年，真出了纠纷，这也是你自证清白的材料。
3. 品牌方和店铺。给出五成以上佣金的单，要把推广素材纳入自己的审核。镇平那起案子说得很直白：你委托的主播欺诈，你作为经营者担责。合同里写一句“推广方自负其责”，挡不住消费者来告你，最多是赔完以后再去追偿。
4. 平台。消法第四十四条第二款是平台这一侧的那道门：

网络交易平台提供者明知或者应知销售者或者服务者利用其平台侵害消费者合法权益，未采取必要措施的，依法与该销售者或者服务者承担连带责任。

前面几起剧本案里，平台都没被判担责，理由是交出了卖家信息，也没有证据显示知情放任。小海的情况不一样：同一张脸，同一套剧本，批量起号，6亿次播放，评论区里多是六七十岁的“妈妈”。我认为到了这个规模，“应知”很难再否认。同脸聚类识别、对老年用户限制推荐、弹出风险提示、提供一键取证，这些平台在技术上都做得到。

小海的眼泪是算出来的，老人的心疼是真的。拿虚情假意换真金白银，这笔账迟早要按退一赔三重算一遍。

如果你的团队正在做数字人带货，拿不准人设和话术的边界在哪，可以跟作者谈一谈，把具体场景发过来。

参考来源

1. 新京报：《卖惨博同情、高价带货，批量“AI小海”正收割“姨姨妈妈”们》（2026-10-16）：https://m.bjnews.com.cn/detail/1792114817169572.html
2. 新京报：《“AI小海”卖惨带货收割中老年人，年轻人造“恶小海”魔法对轰》（2026-10-18）：https://www.bjnews.com.cn/detail/1792284998168989.html
3. 中央广播电视总台中国之声：《批量“AI小海”卖惨博同情带货 哪些“姨姨妈妈”容易被收割？》（2026-10-18），中新网转载：https://www.chinanews.com/sh/2026/10-18/10716530.shtml
4. 北京晚报：《编故事引流借机带货 “AI老人”卖惨只为消费老年人》（2026-10-20），中新网转载：https://www.chinanews.com.cn/sh/2026/10-20/10717784.shtml
5. 《人工智能生成合成内容标识办法》（国信办通字〔2025〕2号），中国政府网：https://www.gov.cn/zhengce/zhengceku/202503/content_7014286.htm；本站解读版：https://fazhuli.cn/laws/ai-shengcheng-hecheng-neirong-biaoshi-banfa
6. 《中华人民共和国消费者权益保护法》（2013年修正），国家市场监督管理总局：https://www.samr.gov.cn/zw/zfxxgk/fdzdgknr/fgs/art/2023/art_0a323e046fba43f0b6e9e977f1e8d5fc.html
7. 《最高人民法院关于审理网络消费纠纷案件适用法律若干问题的规定（一）》（法释〔2022〕8号），最高人民法院：https://www.court.gov.cn/fabu/xiangqing/348031.html
8. 《直播电商监督管理办法》（国家市场监督管理总局、国家互联网信息办公室令第117号），中国网信网：https://www.cac.gov.cn/2026-01/07/c_1769516655383334.htm
9. 《中华人民共和国广告法》（2021年修正），北京市市场监督管理局法规查询：https://scjgj.beijing.gov.cn/cxfw/flfgcxfw/ggl/202204/t20220401_2646388.html
10. 《中华人民共和国反不正当竞争法》（2025年修订），最高人民检察院发布：https://www.spp.gov.cn/spp/fl/202506/t20250627_699862.shtml；本站解读版：https://fazhuli.cn/laws/fan-buzhengdang-jingzheng-fa
11. 《中华人民共和国刑法》
12. 河北省新河县人民法院（2023）冀0530民初30号民事判决书
13. 北京互联网法院（2024）京0491民初13454号民事判决书
14. 河南省镇平县人民法院（2025）豫1324民初4656号民事判决书
15. 江苏省阜宁县人民法院（2025）苏0923刑初224号刑事判决书