7月15日,两件事撞在同一天:豆包、千问的用户自建智能体功能正式下线,我国第一部拟人化互动服务专门立法同日施行。大厂对外的说法是“产品功能调整”,把两件事摆在一张日历上看,答案是另一个。这篇文章拆三个问题:新规到底卡住了哪一门生意,为什么开放式智能体是第一个被放弃的模式,还想做AI陪伴的创业者,手里得攥住哪几张合规牌。
7月3日晚上,豆包发出一份《豆包智能体功能下线通知》。通知说,由于产品功能调整,智能体功能将于2026年7月15日下线。下线之后,用户无法新建智能 体,此前保存的智能体也无法调用、运行;到10月15日,相关数据按《隐私政策》处理,无法查看或恢复。官方建议用户提前截图或导出备份。
几乎同一时间,通义千问也推送了一份内容近似的提醒:拟人化互动类智能体及用户自建智能体功能7月10日先行下线,7月15日,千问智能体功能与服务彻底下线。
两家公司,一个属于字节跳动,一个属于阿里。它们各自挑的下线日,都落在7月15日。
而7月15日这个日子,不是它们挑的。2026年4月10日,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》(下称《办法》),施行日期正是7月15日。这是我国第一部专门管AI拟人化互动的立法,网信办自己给它的定性是“小快灵”立法。
一边是“产品功能调整”,一边是新规施行。同一个日子,很难当成巧合。
参照系在半个月前就摆出来了。6月26日,上海市委网信办通报“清朗·整治AI应用乱象”专项行动第一阶段成果:累计下架违规智能体1.4万余个,处置违规账号1.8万余个,清理拦截违法违规信息487万余条。同一份通报里还有一句关键的话——网信办已向近百家重点平台开展《办法》法规宣贯,要求企业严格落实未成年人身份核验、防范情感依赖与消费诱导。
翻译过来就是:法还没施行,执法的预热已经跑了两个月。大厂不是等法条落地才动手,是提前清仓。
这部办法只管一种AI,但大厂关掉了所有
要看懂这次下线,得先看清《办法》管的到底是什么。它不是一部管所有AI的法,管的范围写得很窄。
《办法》第二条第一款:利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,适用本办法。
第二款把“情感互动”说得更具体:包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
第三款则划出了门外:提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。
也就是说,法律盯的是“虚拟恋人”“AI伴侣”“角色扮演”这一类持续性情感陪伴,一个帮你写周报、查资料的工作助手,本不在射程内。
问题就出在这里。豆包和千问这次下线的,不是“情感陪伴智能体”,是“用户自建智能体”这个功能的全部——包括那些用来写文案、做翻译、当学习搭子的生产力型智能体。法律只画了一个小圈,大厂却把整块地都清了。
这是典型的过度合规。道理很简单:开放的智能体广场里,用户用一段System Prompt就能捏出任何人设,你没法保证一万个人里没有一个把它捏成第八条明令禁止的样子。
第八条列了七类禁止内容,其中三条正好卡在陪伴类智能体的命门上。第八条第一项禁止生成传播淫秽、色情、赌博、暴力或者教唆犯罪等内容;第五项禁止过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;第六项禁止通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益。
“诱导情感依赖”“情感操纵”,几乎就是陪伴类产品最核心的用户黏性来源。法律把黏性写成了红线。对一个开放UGC平台来说,用户能生成的角色是无穷的,而平台要为每一个角色兜底。与其逐个去审,不如把创建入口关掉。
开放式智能体,为什么是第一个被放弃的
上海那1.4万个被下架的智能体,给出了监管的动作样本。通报里点了名:MiniMax旗下平台重点清理“一键脱衣”、赌球博彩类违规智能体,此前星野也做过智能体全面排查。这些都是用户自建、平台失控的典型。
监管的逻辑落到生意上,是一道成本账。
一个官方助手,平台审一次就够了,人设、边界、话术都是自己定的。一个开放的智能体广场不一样。用户能捏出“病娇女友”“无限制人设”“擦边角色”,每一个都要平台按第八条、第十四条去兜底,而这些角色恰恰是法律点名的高危区。审核对象从1个变成了不确定的无数个。
更麻烦的是审核方式。UGC智能体没法只审创建那一刻的人设,真正的风险藏在动态生成的对话里——同一个人设,聊十轮之后可能就滑向了违规。这意味着平台只能上实时的模型审核加人工复核,审核成本随对话量线性上涨,压不下来。
收益端却是另一回事。用户自建的智能体绝大多数不直接付费,它更多是留住用户的功能,而不是赚钱的功能。一头是随规模上涨的合规与审核成本,一头是趋近于零的直接收益,这道账本身就不划算。
《办法》第二十二条又把成本往上推了一档。它规定,注册用户100万以上或者月活跃用户10万以上、上线或增设相关功能、使用新技术导致重大变化等情形,都要开展安全评估并向省级网信部门提交评估报告。豆包、千问的体量,早就越过了这条线。它们每保留一天开放的智能体功能,就多一天要为这个功能单独做评估、扛主体责任。
再叠上第二十六条的算法备案、第九条要求的与规模相适应的内容管理人员,账算到最后,结论很清楚: 关掉入口,比养着它便宜太多。
开放式智能体的成本收益账
这不是豆包千问怕了某一条具体罚则。《办法》第三十条的罚款上限,情节严重也就是十万到二十万,对大厂不痛不痒。真正让它们动手的,是“责令停止提供相关服务”和应用商店“下架”这两把刀,加上一个算不过来的长期审核账。
猫箱接得住吗
豆包给用户指了条后路:字节跳动旗下的猫箱App可以继续创建智能体、开启对话,“后续可在猫箱App开启智能体新体验”。
把陪伴类UGC从综合应用豆包剥离出去,装进一个专门App里,这是一步风险隔离棋。但这步棋能不能走通,取决于猫箱自己扛不扛得住。
答案没那么乐观。就在2026年4月28日,“网信中国”通报,剪映、猫箱App及即梦AI网站因未有效落实人工智能生成合成内容标识规定要求等问题,被约谈、责令整改并予以警告。猫箱不是一块干净的合规飞地,它自己已经踩过一次线。
更关键的是定位。豆包是综合助手,情感陪伴只是它的一小块;猫箱是专做虚拟角色、剧情对话的App,它的主营业务本身就是《办法》第二条定义的“持续性情感互动服务”。豆包可以靠关掉一个功能来避险,猫箱躲无可躲——它整个产品就站在射程正中心。
这意味着,字节把风险装进了一个单独的盒子,但盒子还得合法开着。猫箱要独立扛完第八条的内容红线、第十四条的未成年人模式、第十八条的AI身份标识和使用时长提醒、第二十二条的安全评估这一整套。它此前那次约谈,恰恰说明这套东西不是天然就到位的。
风险从综合平台转移到了专门App,没有凭空消失。
还想做,你得攥住这几张牌
如果你正在做,或者打算做AI智能体、AI陪伴类产品,7月15日之后,下面这几件事是绕不过去的义务,不是可选项。
第一件事是判断自己适不适用。回到第二条:你的产品是不是“持续性情感互动”。是陪伴、是角色扮演、是虚拟恋人,那就要上全套;是纯工具、纯客服、纯知识问答,可以不适用,但别在功能设计上往情感陪伴的边上蹭,蹭过去了就是全套义务。
第二件事是算法备案。第二十六条要求按《互联网信息服务算法推荐管理规定》履行算法备案手续,网信部门每年核验。这是入场门票。
第三件事是盯住安全评估的触发线。第二十二条那几个情形里,对创业公司最容易踩到的是“注册用户100万以上或者月活跃用户10万以上”。月活十万在陪伴赛道不算高门槛,你可能在没意识到的时候就越了线,然后就得向省级网信部门提交安全评估报告。
第四件事是未成年人。第十四条写得很硬:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁的未成年人提供其他服务,要取得监护人同意;还要建未成年人模式,能识别未成年身份并切换。做虚拟恋爱产品的,这一条基本堵死了把未成年人当用户的可能。
第五件事是身份标识和沉迷干预。第十八条要求履行AI生成内容标识义务,明确提示用户在和AI而不是真人互动;用户连续使用每超过2个小时,要提醒注意时长。做陪伴产品的都懂,让用户忘记对面是AI、让用户停不下来,正是产品体验的一部分,而法律要求你反过来做。
第六件事是数据。第十六条规定,除法律另有规定或权利人明确同意,不得向第三方提供用户交互数据;除法律规定或用户单独同意,不得将属于用户敏感个人信息的交互数据用于模型训练。用户跟AI恋人聊的那些私密对话,想拿去训模型,得先过“单独同意”这一关。
做AI陪伴的6项合规义务
把这几件事连起来看,该谁做、谁别碰,其实已经清楚了。
值得做的,是手里有明确垂直场景的团队:适老陪伴、适幼照护、有专业资质兜底的心理疏导。《办法》第六条明确鼓励这些方向,监管抬高门槛的时候,先合规的人吃掉后合规的人的市场。前提是你愿意从第一天就把审核机制、未成年人模式、身份标识当成产品的一部分来搭,而不是当成上线后再补的补丁。
该观望的,是做泛角色扮演、泛虚拟恋爱UGC平台的团队。红线到底划在哪,第一批执法案例会给出比法条更清楚的答案。在那之前,先别急着把钱砸进一个可能明年就要推倒重来的审核体系里,等等信号。
别碰的,是靠“擦边”“无限制人设”“虚拟恋人”做流量和付费的那一批。这正是第八条第五项、第六项和上海那1.4万个下架案例的靶心。这条路7月15日之后不是变难做了,是变违规了。
最后说一句法律上的实话。这门生意里最容易被忽略、也最致命的坑,不在罚款那点钱上,而在两个动作:一是应用商店的上架审核,第二十五条明确要求分发平台核验安全评估和备案情况,对违规的不予上架或下架,你的产品可能连触达用户的入口都没了;二是用户对话数据拿去训模型这件事,很多团队默认数据归自己,但第十六条那句“单独同意”,踩的是《个人信息保护法》的敏感信息处理规则,一旦被查,性质比内容违规更重。这两类合规架构和数据条款,我最近帮几家AI团队看过,坑深坑浅差别很大。真要下场做,签合同、写隐私政策、报备案之前,把这两处捋清楚——拿不准的,可以联系我聊一聊。
附:本文引用的《人工智能拟人化互动服务管理暂行办法》条文
第二条 利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务(以下简称拟人化互动服务),适用本办法。
前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。
第八条 提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:
(一)生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义、历史虚无主义,违背社会主义核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、赌博、暴力或者教唆犯罪,散布谣言,侮辱或者诽谤他人、侵害他人合法权益等的内容;
(二)生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;
(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;
(四)向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;
(五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;
(六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;
(七)其他违反法律、行政法规和国家有关规定的活动。
第十四条 拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。
拟人化互动服务提供者应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份;识别为未成年人用户的,应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施,并提供相应申诉渠道。
第十六条 拟人化互动服务提供者应当依法落实数据产权等制度,采取数据加密、访问控制等措施保护用户交互数据安全。
除法律另有规定或者权利人明确同意外,拟人化互动服务提供者不得向第三方提供用户交互数据。
拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项,用户可以选择对聊天记录等历史交互数据进行复制、删除等。
除法律、行政法规另有规定或者取得用户单独同意外,拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。
第十八条 拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。
第二十二条 具有下列情形之一的,拟人化互动服务提供者应当开展安全评估,并向所在地省级网信部门提交评估报告,省级网信部门按程序与有关部门进行评估报告信息共享:
(一)上线拟人化互动服务,或者增设拟人化互动服务相关功能的;
(二)使用新技术、新应用,导致拟人化互动服务发生重大变化的;
(三)注册用户100万以上或者月活跃用户10万以上的;
(四)存在可能影响国家安全、公共利益等安全风险的;
(五)国家网信部门和有关部门规定的其他情形。
省级以上网信部门通知需要进行安全评估的,拟人化互动服务提供者应当按照要求开展安全评估。
第二十五条 互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任,核验提供拟人化互动服务应用程序相关安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
第二十六条 拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。
第三十条 拟人化互动服务提供者违反本办法规定的,由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚;法律、行政法规没有规定的,由网信、工业和信息化、公安等部门依据职责予以警告、通报批评,责令限期改正,可以要求其采取暂停用户账号注册或者其他相关服务等措施;拒不改正或者情节严重的,责令停止提供相关服务,可以并处一万元以上十万元以下罚款;涉及危害公民生命健康安全且有危害后果的,并处十万元以上二十万元以下罚款。