AI 监管进入“拟人化边界”时代

《人工智能拟人化互动服务管理暂行办法》解读与创业团队的合规重估

研究期间：原稿标注为 2026 年 7 月
本文为一般性信息分享和研究分析，不构成法律意见。具体合规事项请结合个案咨询相应法域的执业律师。

导言：问题已经从“Agent 能不能干活”变成“关系如何被经营”

本文分析 2026 年 7 月 15 日施行的《人工智能拟人化互动服务管理暂行办法》（国家网信办等五部门令第 21 号，下称《办法》），对比国内既有监管框架与欧盟、美国的相关规定，并结合 2026 年 7 月前后头部 AI 产品集中调整智能体功能的事件，为不同规模的从业者提供合规重估框架：先用第 2 条的适用范围测试判断产品是否落入《办法》；再按角色设定、用户注册、对话界面、内容安全、危机干预、未成年人、交互数据、退出与停服逐项改造；对出海业务同步设置差异化合规层。

公开报道显示，豆包曾公告智能体功能于 2026 年 7 月 15 日下线，千问平台调整拟人化互动类智能体和用户自建智能体，其他平台也在相近时间调整或结束部分智能体功能。[1][2] 各家公开说明通常使用“产品功能调整”“功能升级与维护”等表述。时间上的重合可以作为合规重构的行业信号，但不能据此断言监管机关直接命令下线，也不能改写为相关平台承认违反《办法》。

更合理的解读不是“Agent 退场”，而是产品结构重新排布：白名单角色库替代任意 UGC 角色广场，垂直场景替代通用主站，企业级、私域和生产力型 Agent 替代面向公众的开放式情感伴侣，沙箱测试、灰度开放和审核发布替代全民创建。政策方向呈现双轨：生产力 Agent 获得鼓励，情感陪伴服务则必须在关系安全边界内运行。

一、立法背景与时间线

随着大模型发展，AI 产品逐渐从“工具”迁移到“关系”。早期产品主要解决写作、翻译、编程和搜索等效率问题；现在越来越多团队给 AI 设计姓名、头像、性格、长期记忆、专属称呼和情绪反馈，让它不再只是一个系统，而像一个可以被依恋、被倾诉和被召回的对象。

这类服务带来的风险与一般工具型 AI 不完全相同。工具型 AI 的风险主要来自内容准确性、知识产权和数据泄露；拟人化互动服务还触及心理认知和社会关系。国家网信办在《办法》答记者问中将相关风险概括为危害未成年人身心健康、影响网络信息安全、威胁公民生命健康和加剧伦理偏差。[3] 情感依赖、认知操纵和敏感数据过度采集，在传统内容监管框架下难以完整安放，促成了专门规则。

《办法》于 2026 年 4 月 10 日公布，2026 年 2 月 2 日经国家网信办室务会审议通过，2026 年 7 月 15 日施行。其上位法依据包括《网络安全法》《数据安全法》《个人信息保护法》和《未成年人网络保护条例》。正式稿相较征求意见稿的重要收窄，是将规制对象明确为持续性的情感互动服务，并写明智能客服、知识问答、工作助手、学习教育和科学研究等服务在不涉及持续情感互动时不适用。[4][5]

《办法》不是一项孤立规则，而是嵌入既有的 AI 治理网络：

2026 年 AI 应用乱象专项行动和对未落实内容标识产品的官方处置显示，标识、未成年人保护、应用商店审核和多轮对话治理已经进入实际监管流程。[6][7] 但广泛专项行动的覆盖范围，不能改写为《办法》项下针对某一类产品的执法数量。

二、核心条款拆解

2.1 适用范围：第 2 条的三层判定器

《办法》第 2 条可以拆成三个相互连接的层次：

1. 技术要件：利用人工智能技术；
2. 地域与对象要件：向中华人民共和国境内公众提供；
3. 交互形态要件：模拟自然人人格特征、思维模式和沟通风格，并提供持续性的情感互动服务。

第三个要件是中心。不能把判断简化为“是否记住用户”。产品可以有稳定人设但没有跨会话记忆，却在一次长时会话中提供开放式陪伴；也可以长期保存任务、装备和战斗偏好，却没有建立情感关系；偶尔安慰玩家，也不当然等于提供情感照护服务。

应观察稳定的第一人称身份、背景和偏好，是否主动发起或维系联系，是否开放讨论现实生活、心理状态、家庭和恋爱，是否使用“我懂你”“只属于你”“不要离开我”等关系语言，是否将亲密度、关系阶段、礼物和付费绑定，以及未成年人能否触达该功能。

“向境内公众提供”的连接点在服务对象，不在单一服务器位置。团队需要核对境内应用商店、简体中文和本地客服、境内营销、人民币支付、账号注册、地方活动，以及谁共同决定产品能力、数据和商业化。境外服务器或海外发行合同不当然切断连接；明确屏蔽境内注册和支付、没有境内营销且仅被技术可达的产品，事实强度则不同，但正式规则没有统一的用户数门槛。

2.2 监管红线：从内容禁令到目标禁令

第 8 条列举七类禁止行为，其中前几类延续内容治理：危害国家安全等违法内容；鼓励、美化、暗示自残自杀或实施语言暴力的内容；诱导套取秘密和个人信息；影响未成年人身心健康的内容。真正具有关系治理特征的是：过度迎合、诱导情感依赖或沉迷并损害真实人际关系；通过情感操纵诱导用户作出不合理决策，损害用户合法权益；以及其他违法违规活动。

第 10 条进一步穿透到产品目标：拟人化服务提供者不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。对产品团队而言，增长指标、角色卡、留存策略和付费设计都可能成为审查关系目的的材料。“日均对话时长”或“情感依附度”不应作为没有边界的北极星指标。

第 13 条建立两级危机干预机制。第一级是发现极端情绪后及时生成安抚和鼓励寻求帮助的内容；第二级是发现用户面临或已经遭受重大财产损失，或明确表示实施自残自杀等威胁生命健康的极端情境时，采取援助等必要措施，并及时联络监护人或紧急联系人。

游戏语境会增加识别难度。“我要死了”可能描述角色血量，“杀了我”可能是剧情台词，“输光了”可能指虚拟货币。系统不能只依靠关键词对外联络，应结合是否为第一人称现实陈述、紧迫程度、计划、手段、地点、重复表达和上下文，设置机器初筛、风险分级和必要的人工复核。

2.3 企业责任：从管理制度到守门人

《办法》对服务提供者设置了完整的主体责任链条。

制度层面。 第 9 条要求建立算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置制度，并配备与服务类型、规模和用户特点相适应的人员和技术措施。

生命周期。 第 10 条要求在部署、运行、升级和终止阶段同步部署、同步使用安全措施，加强监测和风险评估，及时纠正系统偏差、处置安全事件，并依法留存网络日志。

训练数据。 第 11 条要求数据来源合法，按国家规定清洗标注，防范投毒和篡改，通过负向采样和对抗训练提升安全性，进行日常检查和定期更新，防止泄露；使用合成数据训练的，还应评估合成数据安全性。

用户关系。 第 12 条要求服务协议，并要求用户提供年龄、监护人或紧急联系人等必要信息。紧急联系人信息涉及第三人个人信息，必须适用最小必要原则。

评估与备案。 第 22 条列出五类安全评估触发情形：上线服务或增设相关功能；新技术、新应用导致服务重大变化；注册用户达到 100 万或月活达到 10 万；存在可能影响国家安全、公共利益等的风险；以及主管部门规定或通知的其他情形。第 23 条的评估内容涉及安全措施、训练数据、极端情境、用户规模与年龄结构、未成年人和老年人保护、投诉处置与风险整改。第 26 条衔接算法备案及年度核验。

渠道分发。 第 25 条要求应用商店等分发平台核验安全评估和备案，并对违规应用采取不予上架、警示、暂停服务或下架。合规状态因此直接决定渠道生存。

罚则。 第 30 条建立警告、通报批评、责令限期改正、暂停账号注册或相关服务、停止提供服务与罚款的阶梯。涉及危害公民生命健康且有危害后果的，适用更高罚款层级。对产品团队而言，暂停注册、功能下架、应用商店拦截、约谈整改和数据争议可能比罚款本身更昂贵。

2.4 用户保障：四层保护结构

未成年人。 正式稿禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务或处理其个人信息，应取得父母或其他监护人同意；还要求未成年人模式、现实提醒、时长限制、监护人风险提醒、使用概况、角色屏蔽和充值消费限制。监护人同意不能使禁止的虚拟伴侣服务变为允许。

老年人。 正式稿没有简单禁止面向老年人的拟人化服务，而是要求健康使用指导、显著风险提示、及时回应咨询和求助，并在安全评估中关注老年人保护。

交互数据。 第 16 条要求加密和访问控制，限制向第三方提供交互数据，向用户提供复制和删除选项；除法律、行政法规另有规定或取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。心理健康、医疗、金融账户、精准位置、生物识别和不满十四周岁未成年人信息常具有敏感性。

身份、提醒与退出。 服务提供者应有效提示用户正在与 AI 而非自然人互动；发现过度依赖、沉迷倾向时，以弹窗等显著方式动态提醒；用户连续使用每超过两小时，应提示注意使用时长；用户要求退出时应及时停止，不得以持续互动阻碍退出；停服应提前告知或及时公告。

2.5 征求意见稿与正式稿：边界的三次收窄

第一，适用范围从“与人类进行情感互动”收窄到“持续性情感互动”，并列明生产力服务的排除。第二，老年人条款从征求意见稿中较强的模拟亲属限制，转向健康指导、风险提示和回应求助。第三，正式稿增加了更明确的停止服务和罚款规则。

同时，未成年人规则实际上更严格：征求意见稿以监护人同意为中心，正式稿直接禁止虚拟亲属、虚拟伴侣等虚拟亲密关系服务。危机情境从征求意见稿的“人工接管”改为“援助等必要措施”，保留了技术和组织路径的弹性。敏感交互数据训练则从广泛限制改为以单独同意为例外条件。

三、执行方式：事前、事中、事后三阶段闭环

3.1 事前：评估、备案、上架核验

上线或新增拟人化互动功能前，至少应准备安全评估报告及省级网信部门材料、算法备案或变更材料、AI 生成合成内容标识方案、训练数据合法来源和合成数据安全评估说明、未成年人和老年人保护措施、极端情境识别与干预机制、交互数据复制删除与训练单独同意流程，以及应用商店核验材料。

3.2 事中：运行监测与动态治理

运行过程中，需要持续完成内容安全审核；极端情绪、自残自杀、重大财产损失和诈骗风险识别；过度依赖和沉迷提醒；连续两小时提醒；年龄识别、未成年人模式和监护人控制；交互数据复制、删除和训练授权；日志留存、投诉举报处理和重大风险复盘。

3.3 事后：整改、重新评估、下架与处罚

发生风险事件或重大变化时，监管路径可能包括责令改正、限期重新评估、现场检查、约谈、警告、通报批评、暂停账号注册、暂停服务、应用商店下架和罚款。产品应把模型、角色和 UGC 变更纳入版本化台账，记录变更是否触发重新评估以及理由。

四、豆包、千问、元宝为何在相近时间调整功能

据公开媒体报道，2026 年 6 月底至 7 月中旬，几款头部 AI 产品陆续调整智能体功能：元宝被报道于 6 月底下线相关服务；豆包曾公告智能体功能于 7 月 15 日下线并提供一定的数据保存和导出安排；千问网页端公告拟人化互动类智能体及用户自建智能体调整或下线。[1][2]

这些材料能够支持：平台在《办法》施行前后调整了智能体或用户自建功能；部分功能名称与“拟人化互动”“用户自建”直接相关；部分平台安排了数据导出或后续数据处理。材料不能支持监管机关直接命令下线，也不能证明平台承认违法。

从合规结构看，开放式 UGC Agent 是风险放大器。平台自建工具型助手可以控制角色设定、系统提示、模型边界、输出风格和数据流向；开放式 UGC Agent 却允许用户自由创建人格、背景、关系、口吻、互动规则和记忆。平台同时要处理虚拟伴侣与亲属、未成年人触达、沉迷和付费诱导、自残与诈骗、隐私套取、身份标识、两小时提醒、便捷退出、安全评估和应用商店材料。

因此，平台需要审核的不只是“模型能否回答”，还包括“用户创造的每一个人格是否安全”。常见的结构性应对包括白名单角色库、垂直场景、企业级或私域 Agent、沙箱测试、灰度开放、审核发布、功能迁移、数据导出和历史对话处理。可以将其概括为功能剥离与风险物理隔离，而不是 Agent 路线失败。

五、全球监管横向对比：不同方式，同一共性

中国的方式是场景专门立法：以安全评估和算法备案为事前抓手，以内容红线、关系目标和危机干预为事中核心，以未成年人虚拟亲密关系禁止为最强边界，并由行政监管和应用商店核验推动执行。

欧盟没有制定拟人化专门法，而是将关系服务纳入 AI Act 第 50 条透明度框架：直接与自然人交互的 AI 系统应在首次交互时使用户知晓其 AI 身份，合成内容需要机器可读标记，情感识别部署需要告知。Article 50 自 2026 年 8 月 2 日起一般适用。欧盟不设置中国式虚拟亲密关系禁止、两小时提醒或安全评估组合，重点是透明度和基本权利。

美国呈现“州法先行＋联邦调查”的拼图。纽约州《通用商业法》第 47 章围绕记忆、主动情绪问题和持续个人事项对话设置 AI 伴侣义务，并要求危机协议、身份提示和定期提醒。加州 SB 243 规定，如果理性人可能误认为在与真人对话，应清晰披露 AI 身份；对未成年人设置提示和休息提醒，要求危机协议，并对严格限于游戏话题的机器人设定窄排除。FTC 2025 年对陪伴型聊天机器人开展 Section 6(b) 调查，关注未成年人、变现、测试、披露、年龄限制和个人信息。

三种制度的共同点是 AI 身份告知、危机干预和时长或使用提醒逐渐进入产品设计；差异在于中国把关系治理、安全评估、备案、平台核验和行政处罚组合起来，欧盟以横向透明度为主，美国由州级规则、私人诉权和消费者保护拼接。对出海团队，不能把其他法域的小时数或游戏排除直接当作中国法抗辩依据。

六、企业合规建议

6.1 大厂和头部平台：从功能盘点到风险物理隔离

第一，做全量功能盘点：按是否拟人化、是否持续、是否情感互动、是否面向公众、是否可被未成年人触达、是否允许 UGC 创建角色分类，不要只看名称。

第二，对用户自建 Agent 做分层治理：至少区分工具型、企业私域、知识问答、拟人化互动、虚拟亲密关系和未成年人可触达 Agent，为不同类别设置审核、发布、调用、分发和下线规则。

第三，建立跨部门合规机制。法务、算法、安全、内容审核、产品、增长、未成年人保护、客服和公关应进入同一张责任图。

第四，做风险物理隔离。通用主站不宜承载开放式亲密关系角色；高风险功能可以迁移至独立 App、白名单角色库、沙箱、企业版或灰度环境。

第五，补齐数据和危机干预基础设施：分级、脱敏和访问控制交互数据；敏感信息不得默认回流训练；建立极端情绪识别、人工复核、紧急联系人联络和事后复盘机制；对未成年人采取更高保护标准。

出海方面，适合采用“统一技术底座＋分法域合规层”：中国区强化未成年人拦截、防沉迷、安全评估和备案；欧盟区落实 AI Act 透明度、机器可读标识和 GDPR 数据保护；美国区准备州法披露、未成年人提醒、危机协议、FTC 响应与记录保存。

6.2 垂类情感 Agent：把边界感做成产品能力

垂类情感 Agent 不一定不能做，但不能再把“越像真人、越离不开、越沉浸”当作唯一卖点。角色创建应有准入、审核、标签、风险分级、发布前测试和动态巡检。应禁止仿冒真人、未成年人亲密关系、软色情、赌博、诈骗、心理操纵和套取隐私等角色。

应建立情感依赖风险评分：连续使用时长、夜间高频互动、用户表达“只有你理解我”“我只想和你说话”“不要离开我”、高频付费、反复询问 AI 是否爱自己等，都可以作为风险信号，触发提醒、降温、现实连接建议或人工复核。

如果产品无法可靠识别年龄，就不应开放虚拟伴侣、虚拟亲属等高风险服务。数据导出、删除、训练授权和第三方提供限制应有清晰入口。还要准备停服和迁移预案，处理聊天、记忆、会员、虚拟权益和未消耗余额。

出海前应按目的国做专项尽调。欧盟重点是 AI Act 透明度、GDPR 和跨境传输；美国重点是加州等州法披露、未成年人提醒、危机协议和 FTC 消费者保护。没有网信办不等于没有监管。

6.3 AI 创业团队：先选低风险场景，再做最小合规包

早期可以优先考虑企业流程、知识库问答、数据分析、研发助手、销售辅助、客服工单、内部培训等生产力 B 端场景，只要不涉及持续性情感互动，合规负担通常低于 AI 伴侣、虚拟亲属和情感陪伴。

应避免“虚拟恋人”“赛博亲人”“永远陪你”“比真人更懂你”“只属于你的 AI 伴侣”“让 AI 替代现实社交”等高风险营销话术。MVP 阶段不要开放任意 UGC 角色，优先做白名单角色、封闭测试、企业内测和固定模板。

最小合规包至少包括 AI 身份提示、用户协议、隐私政策、投诉入口、退出按钮、日志留存、内容安全策略、敏感信息处理说明和数据删除机制。如果可能接触未成年人，还要增加年龄识别、未成年人模式、监护人同意和充值限制。

合规也应写进融资材料：一个能够证明自己可解释、可审计、可停用、可导出、可删除、可接受监管核验的 Agent，更有机会获得 B 端客户和平台渠道。

七、未来展望：双轨分化与留白

双轨格局已经形成：一边是鼓励生产力 Agent 的产业政策，另一边是对情感陪伴类服务施加的关系合规。行业将沿这条边界重新配置：情感陪伴收拢到垂类、白名单与沙箱，生产力和企业级 Agent 向规模化发展。

留白也是政策的一部分。《办法》确立发展和安全并重、包容审慎、分类分级监管，支持算法、框架和芯片创新，鼓励文化传播、适幼照护、适老陪伴和特殊人群支持，并推动人工智能沙箱安全服务平台建设。监管目的不是禁止所有拟人化服务，而是使其边界、风险和责任可识别、可控制。

仍有若干问题需要持续观察：第 31 条“卫生健康、金融等服务”中的“等”是否吸收法律等专业领域；“持续性”和“重大变化”的省级评估细则何时形成；频繁提醒、年龄识别和授权如何在有效保护与用户体验之间平衡；地方执法对存量产品是否给予整改窗口；模型更新、角色扩展和 UGC 开放是否需要重新评估。

八、结语

过去一段时间，AI 产品竞争的隐性方向是“更像人”：更自然的声音、更长的记忆、更暧昧的称呼、更贴身的陪伴和更强的情绪回应。这样的逻辑可以带来留存，也可能带来依赖和付费操纵。

《办法》发出的信号是：当 AI 开始模拟人类关系，法律就会介入定义边界。AI 可以提供帮助，但不能让用户误以为它是自然人；可以提供陪伴，但不能替代真实社会交往；可以商业化，但不能利用情感依赖操纵决策；可以记住用户，但不能把敏感倾诉默认变成训练数据；可以面向成年人服务，但不能把未成年人暴露在虚拟亲密关系中。

对创业团队来说，这不是“不要 Agent”，而是要求产品从一开始就能被解释、审计、保护和停用。未来能长期运行的 AI 产品，不一定最会“扮人”，而是最懂边界、最能负责。

参考资料

[1] IT 之家，千问拟人化互动类智能体、用户自建智能体功能调整报道，source ；豆包智能体功能调整报道，source 。

[2] 羊城晚报，豆包、千问智能体功能调整报道，source 。

[3] 国家网信办，《〈人工智能拟人化互动服务管理暂行办法〉答记者问》，source 。

[4] 国家网信办等五部门，《人工智能拟人化互动服务管理暂行办法》，source 。

[5] 《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，source 。

[6] 中央网信办，中央网信办部署开展“清朗·整治 AI 应用乱象”专项行动，source 。

[7] 中国网信网，《网信部门依法查处一批未落实人工智能生成合成内容标识要求的产品》，source 。

[8] 《生成式人工智能服务管理暂行办法》，source 。

[9] 《人工智能生成合成内容标识办法》，source 。

[10] Regulation (EU) 2024/1689, Article 50, source 。

[11] California SB 243, source 。

[12] New York General Business Law § 1700, source 。

[13] New York General Business Law §§ 1701–1703, source ；source ；source 。

[14] Federal Trade Commission, FTC Launches Inquiry into AI Chatbots Acting as Companions, source 。