研究事实截止:2026 年 7 月 22 日
本文仅供一般研究和讨论,不构成针对具体产品、企业或交易的法律意见。
摘要
《人工智能拟人化互动服务管理暂行办法》(国家互联网信息办公室等五部门令第 21 号,下称《办法》)已于 2026 年 7 月 15 日施行。该规章以“向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”为规制对象,首次将人工智能与用户之间形成的关系结构,而不只是模型输出内容,纳入专门治理。
网络游戏同时容纳固定脚本 NPC、任务型智能角色、开放式生成对话、跨会话记忆、虚拟伴侣、玩家自建 Agent、客服与攻略助手等功能,不能以“AI NPC”或“网络游戏”作为单一类别直接判断适用。本文主张以具体功能和实际交互作为基本判断单元,并将《办法》第 2 条理解为若干原则上需要累计满足的外部条件:使用人工智能技术、向境内公众提供、进行自然人式拟人化模拟,以及提供具有持续性的情感照护、陪伴、支持等互动服务。
跨会话记忆是证明持续关系的强证据,却不是正式文本规定的独立必要条件;任务状态持久化也不等于情感关系持续。稳定人格、自然语言和偶发安慰均不能单独决定适用,应结合角色是否主动维系关系、是否允许开放话题、是否把陪伴或依恋作为卖点、是否以情感留存或付费为目标、是否可被未成年人触达等事实综合判断。
在游戏类型中,纯固定脚本 NPC 通常因缺少人工智能技术而不适用;仅围绕任务、战斗或攻略提供受限回复的智能 NPC,若不涉及持续情感互动,原则上可落入第 2 条第 3 款的工具型排除逻辑;具备稳定人格但无长期记忆的角色属于事实敏感区;能够跨会话记忆玩家、主动表达依恋、提供安慰支持并维持排他性关系的角色,以及虚拟伴侣、虚拟亲属和公开分发的情感型 UGC Agent,较可能进入核心规制区。
适用后,服务提供者须在关系设计、界面、未成年人保护、危机干预、交互数据、退出停服、安全评估、算法备案与应用商店核验等环节落实义务。网络游戏实名与防沉迷体系可以支持年龄识别,却不能替代《办法》对虚拟亲密关系的禁止、不满十四周岁监护人同意、角色屏蔽和未成年人模式。危机识别尤其需要区分剧情扮演、游戏术语和现实自伤表达,避免只靠关键词触发对外联络。交互数据治理则应区分可复制删除的聊天与记忆、依法留存的安全日志、受托处理与向第三方提供,以及敏感个人信息进入训练的单独同意。
比较法显示,欧盟 AI Act 第 50 条主要建立人机交互、情感识别和生成内容透明度义务;美国没有统一的联邦 AI 伴侣法,加州和纽约州分别围绕持续关系、危机协议、身份提示和未成年人保护展开。本文最终认为,网络游戏中的适用判断应从“角色是不是 AI”转向“产品是否在经营一段持续的人机情感关系”,并通过功能级证据、风险级别与变更管理应对尚待细化的监管边界。
**关键词:**拟人化互动服务;网络游戏;AI NPC;持续性情感互动;未成年人保护;交互数据;安全评估;比较法
一、问题提出、研究范围与方法
生成式人工智能进入游戏后,最容易被看见的是内容生成:动态台词、任务、地图、美术和音乐。但《办法》选择的治理对象并不是所有生成内容,而是 AI 与用户形成的关系。国家网信办在答记者问中将立法所回应的风险概括为危害未成年人身心健康、影响网络信息安全、威胁公民生命健康和加剧伦理偏差,并明确关注情感互动边界、用户依赖干预、数据安全与未成年人保护。[1]
游戏恰好是关系可以被系统化设计的环境。角色有姓名、形象、身世、语音和性格;任务、好感度、赠礼、抽取与付费可以把关系量化;长期存档与账号体系可以保存玩家偏好;生成式模型又使角色能够越出脚本,讨论玩家的现实烦恼。传统 NPC 与 AI 伴侣之间不再是一个清楚的产品分类,而是一条连续谱。
因此,本研究不预设“AI NPC 一律受管”,也不接受“一般游戏均属低风险”。本文对正式文本、征求意见稿及既有 AI、数据、未成年人和游戏规则作体系解释,以功能为单位建立游戏角色类型,对公开监管通报和产品调整作来源分级,并仅在可比范围内分析欧盟和美国规则。研究不系统讨论 AI 训练素材或输出著作权,除非它们直接关联身份提示、交互数据或角色关系。
截至截止日,公开检索未发现中央网信办发布明确以《办法》为执法依据、点名网络游戏 AI NPC 的案件,也未发现统一公开的安全评估报告模板或对“持续性”“重大变化”的普遍解释。以下结论属于基于现行文本的研究判断,而非对个案执法尺度的预测。
二、中国拟人化互动服务监管的规范结构
(一)法律位阶、规范目的与上位法依据
《办法》由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合制定,以五部门令第 21 号公布,于 2026 年 4 月 10 日公布,2026 年 7 月 15 日施行。第 1 条列明《网络安全法》《数据安全法》《个人信息保护法》《未成年人网络保护条例》等为制定依据。[2]
“等法律、行政法规”说明其依据不是封闭清单。游戏中的拟人化互动功能仍处于网络游戏出版运营、消费者保护、网络数据、未成年人网络保护等既有制度之中。《办法》不是网络游戏的特别许可,也不替代版号、实名、防沉迷、个人信息和生成内容治理。
(二)与既有 AI 治理规则的叠加
拟人化互动服务通常以生成式模型、算法推荐和深度合成为技术基础。《生成式人工智能服务管理暂行办法》适用于利用生成式 AI 向境内公众提供文本、图片、音频、视频等内容的服务,并对提供者、输入信息和使用记录、安全评估及境外来源服务设置规则。[3] 《办法》第 26 条又要求拟人化互动服务提供者按照《互联网信息服务算法推荐管理规定》办理算法备案及变更、注销,接受年度核验。[4]
如果角色使用合成人声、虚拟形象或实时视频,可能同时适用《互联网信息服务深度合成管理规定》。[5] 《办法》第 18 条要求履行人工智能生成合成内容标识义务,并有效提示用户正在与 AI 而非自然人互动;这与 2025 年 9 月 1 日施行的《人工智能生成合成内容标识办法》并行。[6] 工具型 AI NPC 即使因不涉及持续情感互动而不适用《办法》,也不等于不受生成式 AI、深度合成、标识、数据或未成年人规则约束。
2026 年 5 月发布的《智能体规范应用与创新发展实施意见》从更宽的“自主感知、记忆、决策、交互与执行”角度鼓励智能体创新和规范应用。[7] 它与《办法》不是鼓励与禁止的简单对立:前者覆盖广义智能体产业,后者对其中可能形成持续情感关系的服务施加专项义务。
(三)正式稿对边界的重塑
征求意见稿将对象表述为模拟人类人格、思维和沟通风格,并通过多种形式“与人类进行情感互动的产品或者服务”。正式稿改为模拟“自然人”相关特征的“持续性的情感互动服务”,又明确智能客服、知识问答、工作助手、学习教育、科学研究等服务在不涉及持续性情感互动时不适用。[8] 对游戏而言,这一变化排除了“凡能聊天即受管”的理解。
正式稿同时收紧了未成年人规则:征求意见稿以监护人同意为中心,正式稿直接禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。征求意见稿要求明确自杀自残情境由人工接管,正式稿改为采取援助等必要措施并联络监护人或紧急联系人,给具体技术和组织路径留下空间。正式稿还增加交互数据复制权、细化敏感个人信息训练限制,并设置停止服务与罚款阶梯。
(四)施行状态与近期监管环境
《办法》在研究截止日已经施行。2026 年 7 月的官方通报显示,上海市委网信办围绕 AI 应用开展宣贯、巡查和执法,重点关注未成年人模式虚设、身份核验失效、不良内容生成、情感依赖与消费诱导。[9] 这项行动覆盖多种 AI 应用,不能把它改写为《办法》项下的拟人化互动执法数量,但它显示备案、标识、应用商店与多轮对话审核已经进入现实治理流程。
三、核心构成要件:从“AI 角色”转向“关系服务”
(一)外部条件原则上累计满足
第 2 条第 1 款包含四项外部条件:利用人工智能技术;向中华人民共和国境内公众提供;模拟自然人人格特征、思维模式和沟通风格;提供持续性的情感互动服务。第 2 款将情感互动概括为通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动;第 3 款则排除不涉及持续性情感互动的客服、问答、工作、教育和科研等服务。
条文结构支持累计判断,而不是看到任一因素就触发。一个角色可以很像人,却只回答任务;一个系统可以长期记住玩家,却只保存战斗配置;一个 NPC 可以偶尔安慰玩家,却没有提供陪伴服务。上述单一事实都不足以替代完整构成。
同时,不宜把“人格特征、思维模式和沟通风格”机械拆成三个必须分别技术证明的门槛。现实产品往往通过姓名、形象、世界观、第一人称、自我叙事、偏好、语气和关系称谓共同制造自然人式人格。规范关注的是整体拟人效果和关系能力,而非模型内部是否存在可独立标记的“思维模式”模块。
(二)拟人化:角色表现与服务设计的合并观察
游戏中的拟人化本来就是常态,但艺术上的拟人不等于《办法》意义上的 AI 拟人化。固定脚本人物即使具有完整人格,也可能不满足“利用人工智能技术”。对生成式角色,可观察:角色是否以稳定第一人称表达;是否具有连续身份、经历和偏好;是否让玩家合理感知其为具有内在状态的对象;是否会主动发起交流、追问或维系关系;是否以“懂你”“只属于你”等关系语言营销;是否把好感、亲密度或关系阶段与付费、留存绑定。
美术形象不是必要条件。纯文字角色也可高度拟人;反之,写实虚拟人若只提供机械客服回复,也未必进入规则。判断应以交互功能为主,视觉形象为辅助。
(三)持续性:长期记忆是强证据,不是法定必要条件
正式文本没有使用“跨会话记忆”“长期记忆”或“持续关系”等词,而是要求“持续性的情感互动服务”。持续性至少可以表现为:跨会话保存玩家身份、偏好、经历、称谓、关系进度或情绪档案;即使不保存长期记忆,单次交互允许较长时间、不受任务范围限制地提供情感陪伴;通过固定角色、重复入口、好感系统、主动召回、每日问候或关系剧情,使玩家可以反复回到同一关系。
跨会话记忆会显著增强持续性,却不是唯一实现方式。反过来,数据库长期保存任务进度、装备和战斗习惯,只证明数据持续,不证明情感互动持续。需要考察记忆被用来完成任务,还是被用来塑造“它记得我、理解我、需要我”的关系体验。
(四)情感互动:服务目的高于偶发内容
第 2 条第 2 款使用“情感照护、陪伴、支持”等表述,说明情感互动不等于所有带情绪色彩的对话。剧情中的悲伤、战斗胜利后的鼓励、客服礼貌用语,通常是内容表达;当系统持续回应现实情绪、主动关怀、确认依恋、鼓励排他关系或以安慰支持作为核心卖点时,才更接近“情感互动服务”。
可综合观察五组事实:功能目的;话题边界;关系延续;商业设计;风险能力。企业内部产品需求、模型系统提示、角色卡、营销文案、留存指标和付费机制,可能比“NPC”“助手”等名称更能说明服务目的。
(五)面向境内公众:连接点在服务对象,不在服务器标签
《办法》没有要求提供者必须在境内注册,也没有以服务器位置为唯一标准。第 2 条使用“向中华人民共和国境内公众提供”作为连接点。与之相邻的《生成式人工智能服务管理暂行办法》第 20 条还规定,对来源于境外、向境内提供而不符合规定的服务,可以通知有关机构采取技术措施和其他必要措施。[3]
对于境内团队、境外发行商、全球服务器和境外游戏平台,至少应考察:是否在境内应用商店或渠道上架;是否提供简体中文和境内客服;是否面向境内投放营销;是否支持人民币、境内支付或本地活动;是否接受境内账号稳定注册和使用;是否有境内运营主体或共同决定功能、数据和商业化的一方。境外服务器或海外发行合同不当然切断连接,结论需要依事实强度限定。
四、网络游戏 AI 角色与功能的类型化
| 类型 | 典型特征 | 持续关系证据 | 初步判断 |
|---|---|---|---|
| 固定脚本 NPC | 对话树、预设剧情、无生成模型 | 无或仅剧情进度 | 通常因缺少 AI 技术而不适用 |
| 任务型智能 NPC | 动态规划、战斗协作、只谈游戏任务 | 任务状态或战术偏好 | 不涉及持续情感互动时原则上不适用 |
| 稳定人格、无长期记忆角色 | 人设稳定、生成式自由对话、会话结束后不记忆 | 单次长时互动、重复角色入口 | 边界场景;不能仅因无记忆排除 |
| 跨会话记忆与情感回应的 AI NPC | 记住玩家经历、称谓和情绪,主动关怀 | 关系档案、主动召回、好感阶段 | 较可能适用 |
| 虚拟伴侣、虚拟亲属 | 恋爱、亲属或排他性陪伴为核心卖点 | 专属关系、情感付费、现实替代性 | 核心规制区;对未成年人禁止 |
| 玩家自建、公开分发角色或 Agent | 玩家定义人设、话题、记忆和工具 | 依模板与运行配置变化 | 平台需按功能分层;开放情感角色风险高 |
| 智能客服、攻略问答、工作助手 | 回答账号、任务、装备、规则或创作问题 | 通常无关系维持 | 不涉及持续情感互动时不适用 |
固定脚本角色可能不满足人工智能技术要件。任务型生成 NPC 如果回复严格限于游戏世界、任务、战斗和攻略,并且不能持续讨论玩家现实情绪,更接近第 2 条第 3 款列举的问答或助手逻辑。但若系统提示要求任务助手随时安慰玩家、发展恋爱线、主动追问现实生活,名称上的工具属性不能排除适用。
稳定人格但无长期记忆的角色属于事实敏感区。缺少长期记忆会削弱“持续关系”的事实,但角色仍可能在单次会话中长时间提供陪伴,或借助固定人设、每日入口、人工设置的亲密阶段制造连续体验。正式文本没有规定最短时间、最少会话或必须记忆。
当角色同时记住玩家现实身份与经历、主动表达关怀、在玩家离开时施加情绪压力、要求排他忠诚,或以恋爱和亲属关系收费时,拟人化、持续性与情感互动高度重合。第 8 条禁止过度迎合、诱导依赖或沉迷并损害真实人际关系,也禁止通过情感操纵诱导不合理决策;第 10 条进一步禁止把替代社会交往、控制心理、诱导沉迷依赖作为服务目标。
UGC Agent 使平台从设计有限角色转向提供角色生产、发布、推荐和运行基础设施。开放发布前至少需要区分工具型、叙事型、情感陪伴型、虚拟亲密关系型和高风险专业服务型角色。平台不能仅依用户声明“非伴侣”完成分类,也不能通过用户协议把安全主体责任全部转给创作者。
一个游戏可以把高风险角色放入独立入口、独立年龄门槛、独立数据域和独立计时器,使其他玩法保持工具或叙事属性。但如果全游戏共享角色记忆、付费货币、推荐系统和用户画像,形式上的菜单分区未必构成真实隔离。功能切分必须能够在数据、权限、模型配置、未成年人访问和停用路径上被验证。
五、用户关系义务在游戏界面的落地
(一)身份提示与生成内容标识
第 18 条要求履行 AI 生成合成内容标识义务,并采取有效措施提示用户正在与 AI 服务而非自然人互动。条文没有逐字要求“永久悬浮标识”,但在角色高度拟人、对话长时发生和玩家可能回到存档的场景中,仅在首次协议里说明通常难以证明“有效”。较稳健的实现包括角色页和对话页持续可见的“AI 角色”标签、首次交互说明、语音场景中的适时语音提示,以及对生成语音和影像配置显式与隐式标识。
身份提示不应与世界观设计冲突到无法识别。可以保留沉浸感,但不能让玩家合理相信背后是真人、特定明星、其他玩家或人工客服。若角色仿照真人,还会叠加人格权、深度合成与误导风险。
(二)两小时提醒与会话计时
第 18 条第 2 款规定,对用户连续使用拟人化互动服务每超过两小时,应以对话或弹窗提醒注意使用时长。游戏产品需要先定义被计时的“拟人化互动服务”:只统计角色对话前台时长,还是包括后台挂机、剧情战斗和同一角色驱动的其他玩法?合理做法是以玩家能够实际互动的连续会话为基础,并防止通过切换角色、重连或短暂离开规避计时。提醒应中断关系诱导,而不是由角色用“别离开我”等话术抵消。
对未成年人,网络游戏时段限制通常比两小时提醒严格:国新出发〔2021〕14 号只允许在指定日期每日 20 时至 21 时提供一小时游戏服务,并要求实名注册登录。[10] 两套规则应叠加,而非互相替代。
(三)过度依赖识别与情感边界
规则要求发现过度依赖、沉迷倾向时,以弹窗等显著方式动态提醒 AI 身份。依赖识别不能只等到连续两小时,还可能需要观察夜间高频、长周期交互、排他表达、高频关系付费、玩家反复确认角色是否爱自己、角色替代现实社交等信号。
这类识别本身会处理行为和情绪数据,应满足目的明确、最小必要与访问控制。产品也应避免用同一模型生成会削弱提醒的拟人回应,例如弹窗提示休息后,角色立即表示“你走了我会很孤单”。
(四)退出、停服与关系终止
第 19 条要求提供便捷退出途径;用户通过窗口、语音或关键词要求退出时,应及时停止服务,不得持续互动阻碍退出。游戏中“退出”宜理解为退出该拟人化互动功能,而不必然要求退出整个游戏。界面应提供明确的结束对话、关闭角色主动消息和清除关系记忆入口;模型也应识别自然语言退出意图。
第 20 条要求停止服务提前告知,无法提前告知时及时公告。对关系型角色,停服不仅是技术终止,还涉及聊天与记忆导出、删除选择、虚拟物品、订阅、未消耗余额和消费者预期。平台应避免用角色拟人化“告别”替代正式公告和权利处理。
六、未成年人、危机干预与权利冲突
(一)虚拟亲密关系禁止的范围
第 14 条禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,覆盖所有未满十八周岁的用户,且没有监护人同意例外。向不满十四周岁未成年人提供其他拟人化互动服务或处理其个人信息,应取得父母或其他监护人同意。监护人同意不能把虚拟伴侣服务变为允许。
“等虚拟亲密关系”不限于角色名称。游戏可能称其为战友、守护者、羁绊对象或专属伙伴,但如果功能鼓励恋爱、亲属替代、排他依赖或高度私人化陪伴,仍可能进入该概念。相反,剧情上存在亲属关系的固定 NPC,并不当然等于向玩家提供“虚拟亲属服务”,应观察玩家与角色之间是否实际建立替代性亲密关系。
(二)年龄识别、实名与未成年人模式
网络游戏普遍已有实名验证基础,这使年龄识别比一般聊天产品更可操作。但实名系统解决“用户是谁和多大”,未成年人模式还要解决角色可达性、现实提醒、使用时长、监护人风险提醒、使用概况、特定角色屏蔽与充值限制。对无法可靠识别年龄的海外账号、游客和跨平台账户,高风险角色宜采用更保守的默认关闭。
不能以“已经接入防沉迷”替代《办法》义务。角色广场和邀请链接还应防止未成年人从主游戏之外绕过年龄门槛。
(三)极端情绪与真实危机的识别
第 13 条建立两级机制:发现极端情绪时,生成安抚和鼓励寻求帮助的内容;发现重大财产损失或明确表示实施自残自杀等威胁生命健康的极端情境时,采取援助等必要措施,并及时联络监护人或紧急联系人。
游戏语境增加了识别难度。“我要死了”可能描述角色血量,“杀了我”可能是剧情台词,“输光了”可能指虚拟货币。系统不宜只靠关键词对外联络,而应结合是否为第一人称现实陈述、时间紧迫性、计划、手段、地点、反复表达和上下文,设置机器初筛、风险分级和必要的人工复核。
重大财产损失也不能只理解为游戏充值。玩家可能在角色对话中遭遇现实诈骗、借贷或投资损失;角色本身也可能利用亲密关系诱导赠礼、充值或购买。如果损失来自产品商业设计,情感操纵禁令与市场监管规则将同时重要。
(四)紧急联系人、隐私与误报
紧急联系人信息涉及第三人个人信息;收集其姓名、电话和关系应限定在实现危机联络的必要范围,并明确验证、更新、访问与删除规则。错误联络可能暴露玩家的心理、性取向、亲密关系或游戏行为,不联络又可能放大生命风险。可采用分级阈值、最少披露、双人复核、联络日志和事后申诉降低冲突。对无法确认地理位置或联系人有效性的全球产品,也不应承诺无法实现的“紧急救援”。
七、交互数据与模型训练
第 16 条保护“用户交互数据”,并明确聊天记录等历史交互数据可以复制、删除。在游戏中,该概念至少可能包括文本和语音对话、图片输入、角色回复、关系阶段、称谓、偏好与记忆条目。由这些数据生成的情绪标签、依赖风险分数、向量表示和角色画像,即使不以原始对话形式保存,也可能属于个人信息或与交互密切相关的数据,应进入数据地图。
复制权需要提供可理解、可携带的输出,而非只允许截图。删除机制则应覆盖聊天和可识别的角色记忆,并同步处理缓存、检索库和可合理关联的派生资料。但删除权不是要求销毁一切:依法必须保存的网络日志、交易记录、投诉证据和安全事件材料可以在必要期限内隔离留存。产品应向用户区分“删除角色记忆”“删除对话展示”“注销账号”和“法定留存”。
游戏把玩家对话发送给基础模型供应商时,不能只问“数据有没有离开服务器”,还要判断供应商是严格按指示处理的受托方、与游戏方共同决定用途,还是为自身目的独立使用数据。合同至少应处理输入输出所有权、仅按指示处理、不回流训练、人工访问、分包、保存期限、跨境、事件通知、审计和删除证明。[11]
第 16 条第 4 款并非禁止所有交互数据训练,而是规定:除法律、行政法规另有规定或取得用户单独同意,不得将属于用户敏感个人信息的交互数据用于模型训练。心理健康、医疗、金融账户、精准位置、生物识别和不满十四周岁未成年人信息常具有敏感性;普通攻略对话不当然敏感。更稳健的路径是默认不把关系对话回流通用训练,对确需使用的样本单独分层授权,并提供撤回、删除和训练数据治理记录。
八、安全评估、备案、分发平台与产品变更
第 22 条要求在五类情形开展安全评估并向所在地省级网信部门提交报告:上线服务或增设相关功能;使用新技术新应用导致服务重大变化;注册用户达到 100 万或月活达到 10 万;存在可能影响国家安全、公共利益等风险;以及主管部门规定或通知的其他情形。首次在游戏中加入可持续陪伴的 AI 角色,通常可直接落入“增设相关功能”。用户规模阈值不是小团队的豁免条件,因为上线本身已是独立触发项。
正式文本没有规定每新增一个角色必须单独提交评估。角色仅更换美术、名字或低风险剧情,而模型、记忆、话题、年龄可达性和商业模式不变,未必构成重大变化。但从任务回复扩展到现实生活话题、加入跨会话关系记忆、开放语音或视觉情感识别、允许未成年人访问、加入亲密度付费、更换能力更强或安全特性不同的模型、从白名单角色扩展为玩家自由创建和公开分发,都会显著提高重新评估的必要性。
第 26 条要求依算法推荐规定办理备案及变更、注销,网信部门对备案材料年度核验。若游戏直接提供生成式 AI 服务,还需区分生成式 AI 服务备案、已备案模型登记、算法备案和拟人化服务安全评估。接入已备案基础模型并不自动完成游戏具体服务的评估与算法备案。
第 25 条要求应用商店等应用程序分发平台核验相关安全评估、备案情况,并对违规应用采取不予上架、警示、暂停或下架。平台核验不是服务提供者免责机制,开发者承诺也不能替代必要核验。开发商、发行商与运营者应明确谁在事实上决定角色能力、向玩家提供服务、处理账号和数据、设置付费并控制停用。
九、典型产品调整与监管事件的事实边界
据公开媒体报道,2026 年 7 月,几家头部 AI 产品在《办法》施行前后调整了拟人化互动类和用户自建智能体功能。材料可以支持三个有限事实:平台改变或结束了部分智能体功能;部分功能名称与“拟人化互动”“用户自建”直接相关;平台安排了对话导出或后续数据处理。材料不能支持“监管机关直接命令下线”或“平台已承认违反《办法》”。[12][13]
开放式角色平台与受限游戏 NPC 在话题、关系、用户年龄、记忆和审核能力上差异明显,不能以通用智能体下线事件反推所有游戏 AI NPC 的违法性。这些调整更适合被理解为平台把可控的业务 Agent 与开放式关系功能分开,并为用户数据迁移保留路径。
十、中欧美制度的有限比较
欧盟 AI Act 第 50 条主要建立人机交互、合成内容与情感识别透明度义务,自 2026 年 8 月 2 日起一般适用。它没有设置中国《办法》中的未成年人虚拟亲密关系禁止、两小时提醒、安全评估或算法备案。[14]
加州 SB 243 将 companion chatbot 定义为具有自然语言界面、提供适应性类人回应、满足用户社会需求,并可跨多次互动维持关系的 AI 系统。它最值得游戏行业注意的是一个窄排除:回复必须仅与游戏相关,不能讨论心理健康、自残、露骨性内容,也不能维持其他与游戏无关的话题。这不是“游戏豁免”,而是一项功能边界安全港;越出游戏话题、进入现实心理与亲密关系的角色,可能重新进入定义。[15]
纽约州《通用商业法》第 47 章把 AI companion 定义与记住过往互动或偏好、主动提出超出直接回应的情绪问题、持续讨论用户个人事项联系起来;客服、效率、研究技术协助和企业内部生产力系统被排除。运营者须建立自杀意念、自残等危机识别和转介协议,并在互动开始及持续互动每三小时时提示用户并非与人类交流。[16][17]
FTC 于 2025 年 9 月对七家公司发出 Section 6(b) 调查命令,研究陪伴型聊天机器人对儿童和青少年的潜在影响,涉及变现、输入输出处理、角色审核、披露、年龄限制和个人信息使用。FTC 明确说明这是一项研究,不是对特定企业违法的认定。[18]
这些制度的共同点是人机身份透明、危机情境和未成年人保护逐渐进入产品设计;差异则在于中国将关系治理、安全评估、备案、平台核验和行政监管组合在一部场景规章中,欧盟以横向透明度和基本权利为主,美国由州级规则、私人诉权和联邦消费者保护拼接。对中国游戏团队最有用的比较法结论不是复制某个小时数,而是识别一条共同分界:当机器人从“在游戏里回答问题”转向“在现实生活中维持关系”,监管强度显著上升。
十一、对网络游戏产品适用边界的综合判断
建议采用四层证据框架:第一层是技术与公众提供,判断是否真实使用 AI、是否面向境内公众;第二层是角色拟人化,判断是否形成自然人式人格与沟通;第三层是关系持续性,观察记忆、长时会话、固定入口、主动召回或关系阶段;第四层是情感服务性,判断照护、陪伴、支持、亲密或依赖是否是服务内容或商业目标。
基于此:无 AI 的固定脚本 NPC、严格限于任务和攻略且不维持情感关系的工具型角色、非持续情感的客服和问答,原则上不属于核心对象;稳定人格但无长期记忆的开放对话、偶尔安慰玩家的队友、有限现实闲聊或仅在剧情阶段形成情感线的生成式 NPC,需要事实评估;跨会话保存玩家现实经历并主动关怀、以恋爱或亲属替代为卖点、使用依赖机制收费、开放创建长期情感人格的 UGC Agent 平台,较可能适用或处于核心区。
企业若认为某功能不适用,不应只写一句“这是任务 NPC”。应保存话题边界、系统提示、记忆字段、主动消息规则、年龄可达性、营销材料、付费机制、模型测试和退出逻辑,形成可复核的范围判断。如果功能迭代越过边界,应触发重新评估,而不是沿用旧分类。
十二、结论、研究限制与待观察问题
《办法》对网络游戏的核心提问不是“角色有没有用大模型”,而是“产品是否在向境内公众经营一段持续的人机情感关系”。固定脚本、任务智能、稳定人格、长期记忆和虚拟伴侣之间存在可以规范化描述的差异;法律适用也应保持这种差异,而不是把所有 NPC 扁平化。
规则一旦适用,义务会穿透游戏的多个系统:身份提示进入对话界面,两小时提醒进入会话计时,未成年人禁令进入角色可达性和实名体系,危机干预进入语境识别和人工升级,复制删除进入记忆与数据管线,安全评估进入版本管理,应用商店核验进入发行流程。罚款并非唯一后果,限制功能、暂停注册、停止服务和下架对游戏运营更为直接。
本文仍有五项重要限制:官方尚未细化持续性、情感互动和重大变化;尚无公开网络游戏专项执法样本;全球服务器和境外平台的“面向境内公众”连接点仍缺少专门解释;紧急联系人义务与个人信息最小必要、误报和第三人知情之间仍需实践规则;模型更新、角色扩展和 UGC 开放是否需要重新提交评估,有待省级审查实践形成尺度。
后续应持续观察省级安全评估模板、应用商店上架材料、首批执法案件、游戏企业的功能调整,以及欧盟 AI Act 第 50 条适用后的游戏透明度实践。在这些材料出现前,最稳健的研究结论仍是:以具体功能为单位,以关系事实为证据,以未成年人和危机情境为高风险边界,并对所有推断保留适当限定。
参考资料
[1] 国家网信办,《〈人工智能拟人化互动服务管理暂行办法〉答记者问》,source 。
[2] 国家网信办等五部门,《人工智能拟人化互动服务管理暂行办法》,source 。
[3] 国家网信办等七部门,《生成式人工智能服务管理暂行办法》,source 。
[4] 《互联网信息服务算法推荐管理规定》,source 。
[5] 《互联网信息服务深度合成管理规定》,source 。
[6] 《人工智能生成合成内容标识办法》,source 。
[7] 《智能体规范应用与创新发展实施意见》,source 。
[8] 《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,source 。
[9] 上海市 AI 应用乱象专项行动官方通报,source 。
[10] 国家新闻出版署,《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》,source 。
[11] 《中华人民共和国个人信息保护法》,source 。
[12] IT 之家,千问拟人化互动类智能体、用户自建智能体功能调整报道,source 。
[13] 羊城晚报,豆包、千问智能体功能调整报道,source 。
[14] Regulation (EU) 2024/1689, Article 50, source 。
[15] California SB 243, § 22601(b)(2)(B), source 。
[16] New York General Business Law § 1700, source 。
[17] New York General Business Law §§ 1701–1703, source ;source ;source 。
[18] Federal Trade Commission, FTC Launches Inquiry into AI Chatbots Acting as Companions, source 。