AI 監管進入“擬人化邊界”時代

《人工智能擬人化互動服務管理暫行辦法》解讀與創業團隊的合規重估

研究期間：原稿標註爲 2026 年 7 月
本文爲一般性信息分享和研究分析，不構成法律意見。具體合規事項請結合個案諮詢相應法域的執業律師。

導言：問題已經從“Agent 能不能幹活”變成“關係如何被經營”

本文分析 2026 年 7 月 15 日施行的《人工智能擬人化互動服務管理暫行辦法》（國家網信辦等五部門令第 21 號，下稱《辦法》），對比國內既有監管框架與歐盟、美國的相關規定，並結合 2026 年 7 月前後頭部 AI 產品集中調整智能體功能的事件，爲不同規模的從業者提供合規重估框架：先用第 2 條的適用範圍測試判斷產品是否落入《辦法》；再按角色設定、用戶註冊、對話界面、內容安全、危機干預、未成年人、交互數據、退出與停服逐項改造；對出海業務同步設置差異化合規層。

公開報道顯示，豆包曾公告智能體功能於 2026 年 7 月 15 日下線，千問平臺調整擬人化互動類智能體和用戶自建智能體，其他平臺也在相近時間調整或結束部分智能體功能。[1][2] 各家公開說明通常使用“產品功能調整”“功能升級與維護”等表述。時間上的重合可以作爲合規重構的行業信號，但不能據此斷言監管機關直接命令下線，也不能改寫爲相關平臺承認違反《辦法》。

更合理的解讀不是“Agent 退場”，而是產品結構重新排布：白名單角色庫替代任意 UGC 角色廣場，垂直場景替代通用主站，企業級、私域和生產力型 Agent 替代面向公衆的開放式情感伴侶，沙箱測試、灰度開放和審覈發佈替代全民創建。政策方向呈現雙軌：生產力 Agent 獲得鼓勵，情感陪伴服務則必須在關係安全邊界內運行。

一、立法背景與時間線

隨着大模型發展，AI 產品逐漸從“工具”遷移到“關係”。早期產品主要解決寫作、翻譯、編程和搜索等效率問題；現在越來越多團隊給 AI 設計姓名、頭像、性格、長期記憶、專屬稱呼和情緒反饋，讓它不再只是一個系統，而像一個可以被依戀、被傾訴和被召回的對象。

這類服務帶來的風險與一般工具型 AI 不完全相同。工具型 AI 的風險主要來自內容準確性、知識產權和數據泄露；擬人化互動服務還觸及心理認知和社會關係。國家網信辦在《辦法》答記者問中將相關風險概括爲危害未成年人身心健康、影響網絡信息安全、威脅公民生命健康和加劇倫理偏差。[3] 情感依賴、認知操縱和敏感數據過度採集，在傳統內容監管框架下難以完整安放，促成了專門規則。

《辦法》於 2026 年 4 月 10 日公佈，2026 年 2 月 2 日經國家網信辦室務會審議通過，2026 年 7 月 15 日施行。其上位法依據包括《網絡安全法》《數據安全法》《個人信息保護法》和《未成年人網絡保護條例》。正式稿相較徵求意見稿的重要收窄，是將規制對象明確爲持續性的情感互動服務，並寫明智能客服、知識問答、工作助手、學習教育和科學研究等服務在不涉及持續情感互動時不適用。[4][5]

《辦法》不是一項孤立規則，而是嵌入既有的 AI 治理網絡：

2026 年 AI 應用亂象專項行動和對未落實內容標識產品的官方處置顯示，標識、未成年人保護、應用商店審覈和多輪對話治理已經進入實際監管流程。[6][7] 但廣泛專項行動的覆蓋範圍，不能改寫爲《辦法》項下針對某一類產品的執法數量。

二、核心條款拆解

2.1 適用範圍：第 2 條的三層判定器

《辦法》第 2 條可以拆成三個相互連接的層次：

1. 技術要件：利用人工智能技術；
2. 地域與對象要件：向中華人民共和國境內公衆提供；
3. 交互形態要件：模擬自然人人格特徵、思維模式和溝通風格，並提供持續性的情感互動服務。

第三個要件是中心。不能把判斷簡化爲“是否記住用戶”。產品可以有穩定人設但沒有跨會話記憶，卻在一次長時會話中提供開放式陪伴；也可以長期保存任務、裝備和戰鬥偏好，卻沒有建立情感關係；偶爾安慰玩家，也不當然等於提供情感照護服務。

應觀察穩定的第一人稱身份、背景和偏好，是否主動發起或維繫聯繫，是否開放討論現實生活、心理狀態、家庭和戀愛，是否使用“我懂你”“只屬於你”“不要離開我”等關係語言，是否將親密度、關係階段、禮物和付費綁定，以及未成年人能否觸達該功能。

“向境內公衆提供”的連接點在服務對象，不在單一服務器位置。團隊需要覈對境內應用商店、簡體中文和本地客服、境內營銷、人民幣支付、賬號註冊、地方活動，以及誰共同決定產品能力、數據和商業化。境外服務器或海外發行合同不當然切斷連接；明確屏蔽境內註冊和支付、沒有境內營銷且僅被技術可達的產品，事實強度則不同，但正式規則沒有統一的用戶數門檻。

2.2 監管紅線：從內容禁令到目標禁令

第 8 條列舉七類禁止行爲，其中前幾類延續內容治理：危害國家安全等違法內容；鼓勵、美化、暗示自殘自殺或實施語言暴力的內容；誘導套取祕密和個人信息；影響未成年人身心健康的內容。真正具有關係治理特徵的是：過度迎合、誘導情感依賴或沉迷並損害真實人際關係；通過情感操縱誘導用戶作出不合理決策，損害用戶合法權益；以及其他違法違規活動。

第 10 條進一步穿透到產品目標：擬人化服務提供者不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作爲服務目標。對產品團隊而言，增長指標、角色卡、留存策略和付費設計都可能成爲審查關係目的的材料。“日均對話時長”或“情感依附度”不應作爲沒有邊界的北極星指標。

第 13 條建立兩級危機干預機制。第一級是發現極端情緒後及時生成安撫和鼓勵尋求幫助的內容；第二級是發現用戶面臨或已經遭受重大財產損失，或明確表示實施自殘自殺等威脅生命健康的極端情境時，採取援助等必要措施，並及時聯絡監護人或緊急聯繫人。

遊戲語境會增加識別難度。“我要死了”可能描述角色血量，“殺了我”可能是劇情臺詞，“輸光了”可能指虛擬貨幣。系統不能只依靠關鍵詞對外聯絡，應結合是否爲第一人稱現實陳述、緊迫程度、計劃、手段、地點、重複表達和上下文，設置機器初篩、風險分級和必要的人工複覈。

2.3 企業責任：從管理制度到守門人

《辦法》對服務提供者設置了完整的主體責任鏈條。

制度層面。 第 9 條要求建立算法機制機理審覈、科技倫理審查、信息內容管理、網絡和數據安全、風險預案和應急處置制度，並配備與服務類型、規模和用戶特點相適應的人員和技術措施。

生命週期。 第 10 條要求在部署、運行、升級和終止階段同步部署、同步使用安全措施，加強監測和風險評估，及時糾正系統偏差、處置安全事件，並依法留存網絡日誌。

訓練數據。 第 11 條要求數據來源合法，按國家規定清洗標註，防範投毒和篡改，通過負向採樣和對抗訓練提升安全性，進行日常檢查和定期更新，防止泄露；使用合成數據訓練的，還應評估合成數據安全性。

用戶關係。 第 12 條要求服務協議，並要求用戶提供年齡、監護人或緊急聯繫人等必要信息。緊急聯繫人信息涉及第三人個人信息，必須適用最小必要原則。

評估與備案。 第 22 條列出五類安全評估觸發情形：上線服務或增設相關功能；新技術、新應用導致服務重大變化；註冊用戶達到 100 萬或月活達到 10 萬；存在可能影響國家安全、公共利益等的風險；以及主管部門規定或通知的其他情形。第 23 條的評估內容涉及安全措施、訓練數據、極端情境、用戶規模與年齡結構、未成年人和老年人保護、投訴處置與風險整改。第 26 條銜接算法備案及年度覈驗。

渠道分發。 第 25 條要求應用商店等分發平臺覈驗安全評估和備案，並對違規應用採取不予上架、警示、暫停服務或下架。合規狀態因此直接決定渠道生存。

罰則。 第 30 條建立警告、通報批評、責令限期改正、暫停賬號註冊或相關服務、停止提供服務與罰款的階梯。涉及危害公民生命健康且有危害後果的，適用更高罰款層級。對產品團隊而言，暫停註冊、功能下架、應用商店攔截、約談整改和數據爭議可能比罰款本身更昂貴。

2.4 用戶保障：四層保護結構

未成年人。 正式稿禁止向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務；向不滿十四周歲未成年人提供其他擬人化互動服務或處理其個人信息，應取得父母或其他監護人同意；還要求未成年人模式、現實提醒、時長限制、監護人風險提醒、使用概況、角色屏蔽和充值消費限制。監護人同意不能使禁止的虛擬伴侶服務變爲允許。

老年人。 正式稿沒有簡單禁止面向老年人的擬人化服務，而是要求健康使用指導、顯著風險提示、及時回應諮詢和求助，並在安全評估中關注老年人保護。

交互數據。 第 16 條要求加密和訪問控制，限制向第三方提供交互數據，向用戶提供複製和刪除選項；除法律、行政法規另有規定或取得用戶單獨同意外，不得將屬於用戶敏感個人信息的交互數據用於模型訓練。心理健康、醫療、金融賬戶、精準位置、生物識別和不滿十四周歲未成年人信息常具有敏感性。

身份、提醒與退出。 服務提供者應有效提示用戶正在與 AI 而非自然人互動；發現過度依賴、沉迷傾向時，以彈窗等顯著方式動態提醒；用戶連續使用每超過兩小時，應提示注意使用時長；用戶要求退出時應及時停止，不得以持續互動阻礙退出；停服應提前告知或及時公告。

2.5 徵求意見稿與正式稿：邊界的三次收窄

第一，適用範圍從“與人類進行情感互動”收窄到“持續性情感互動”，並列明生產力服務的排除。第二，老年人條款從徵求意見稿中較強的模擬親屬限制，轉向健康指導、風險提示和回應求助。第三，正式稿增加了更明確的停止服務和罰款規則。

同時，未成年人規則實際上更嚴格：徵求意見稿以監護人同意爲中心，正式稿直接禁止虛擬親屬、虛擬伴侶等虛擬親密關係服務。危機情境從徵求意見稿的“人工接管”改爲“援助等必要措施”，保留了技術和組織路徑的彈性。敏感交互數據訓練則從廣泛限制改爲以單獨同意爲例外條件。

三、執行方式：事前、事中、事後三階段閉環

3.1 事前：評估、備案、上架覈驗

上線或新增擬人化互動功能前，至少應準備安全評估報告及省級網信部門材料、算法備案或變更材料、AI 生成合成內容標識方案、訓練數據合法來源和合成數據安全評估說明、未成年人和老年人保護措施、極端情境識別與干預機制、交互數據複製刪除與訓練單獨同意流程，以及應用商店覈驗材料。

3.2 事中：運行監測與動態治理

運行過程中，需要持續完成內容安全審覈；極端情緒、自殘自殺、重大財產損失和詐騙風險識別；過度依賴和沉迷提醒；連續兩小時提醒；年齡識別、未成年人模式和監護人控制；交互數據複製、刪除和訓練授權；日誌留存、投訴舉報處理和重大風險覆盤。

3.3 事後：整改、重新評估、下架與處罰

發生風險事件或重大變化時，監管路徑可能包括責令改正、限期重新評估、現場檢查、約談、警告、通報批評、暫停賬號註冊、暫停服務、應用商店下架和罰款。產品應把模型、角色和 UGC 變更納入版本化臺賬，記錄變更是否觸發重新評估以及理由。

四、豆包、千問、元寶爲何在相近時間調整功能

據公開媒體報道，2026 年 6 月底至 7 月中旬，幾款頭部 AI 產品陸續調整智能體功能：元寶被報道於 6 月底下線相關服務；豆包曾公告智能體功能於 7 月 15 日下線並提供一定的數據保存和導出安排；千問網頁端公告擬人化互動類智能體及用戶自建智能體調整或下線。[1][2]

這些材料能夠支持：平臺在《辦法》施行前後調整了智能體或用戶自建功能；部分功能名稱與“擬人化互動”“用戶自建”直接相關；部分平臺安排了數據導出或後續數據處理。材料不能支持監管機關直接命令下線，也不能證明平臺承認違法。

從合規結構看，開放式 UGC Agent 是風險放大器。平臺自建工具型助手可以控制角色設定、系統提示、模型邊界、輸出風格和數據流向；開放式 UGC Agent 卻允許用戶自由創建人格、背景、關係、口吻、互動規則和記憶。平臺同時要處理虛擬伴侶與親屬、未成年人觸達、沉迷和付費誘導、自殘與詐騙、隱私套取、身份標識、兩小時提醒、便捷退出、安全評估和應用商店材料。

因此，平臺需要審覈的不只是“模型能否回答”，還包括“用戶創造的每一個人格是否安全”。常見的結構性應對包括白名單角色庫、垂直場景、企業級或私域 Agent、沙箱測試、灰度開放、審覈發佈、功能遷移、數據導出和歷史對話處理。可以將其概括爲功能剝離與風險物理隔離，而不是 Agent 路線失敗。

五、全球監管橫向對比：不同方式，同一共性

中國的方式是場景專門立法：以安全評估和算法備案爲事前抓手，以內容紅線、關係目標和危機干預爲事中核心，以未成年人虛擬親密關係禁止爲最強邊界，並由行政監管和應用商店覈驗推動執行。

歐盟沒有制定擬人化專門法，而是將關係服務納入 AI Act 第 50 條透明度框架：直接與自然人交互的 AI 系統應在首次交互時使用戶知曉其 AI 身份，合成內容需要機器可讀標記，情感識別部署需要告知。Article 50 自 2026 年 8 月 2 日起一般適用。歐盟不設置中國式虛擬親密關係禁止、兩小時提醒或安全評估組合，重點是透明度和基本權利。

美國呈現“州法先行＋聯邦調查”的拼圖。紐約州《通用商業法》第 47 章圍繞記憶、主動情緒問題和持續個人事項對話設置 AI 伴侶義務，並要求危機協議、身份提示和定期提醒。加州 SB 243 規定，如果理性人可能誤認爲在與真人對話，應清晰披露 AI 身份；對未成年人設置提示和休息提醒，要求危機協議，並對嚴格限於遊戲話題的機器人設定窄排除。FTC 2025 年對陪伴型聊天機器人開展 Section 6(b) 調查，關注未成年人、變現、測試、披露、年齡限制和個人信息。

三種制度的共同點是 AI 身份告知、危機干預和時長或使用提醒逐漸進入產品設計；差異在於中國把關係治理、安全評估、備案、平臺覈驗和行政處罰組合起來，歐盟以橫向透明度爲主，美國由州級規則、私人訴權和消費者保護拼接。對出海團隊，不能把其他法域的小時數或遊戲排除直接當作中國法抗辯依據。

六、企業合規建議

6.1 大廠和頭部平臺：從功能盤點到風險物理隔離

第一，做全量功能盤點：按是否擬人化、是否持續、是否情感互動、是否面向公衆、是否可被未成年人觸達、是否允許 UGC 創建角色分類，不要只看名稱。

第二，對用戶自建 Agent 做分層治理：至少區分工具型、企業私域、知識問答、擬人化互動、虛擬親密關係和未成年人可觸達 Agent，爲不同類別設置審覈、發佈、調用、分發和下線規則。

第三，建立跨部門合規機制。法務、算法、安全、內容審覈、產品、增長、未成年人保護、客服和公關應進入同一張責任圖。

第四，做風險物理隔離。通用主站不宜承載開放式親密關係角色；高風險功能可以遷移至獨立 App、白名單角色庫、沙箱、企業版或灰度環境。

第五，補齊數據和危機干預基礎設施：分級、脫敏和訪問控制交互數據；敏感信息不得默認迴流訓練；建立極端情緒識別、人工複覈、緊急聯繫人聯絡和事後覆盤機制；對未成年人採取更高保護標準。

出海方面，適合採用“統一技術底座＋分法域合規層”：中國區強化未成年人攔截、防沉迷、安全評估和備案；歐盟區落實 AI Act 透明度、機器可讀標識和 GDPR 數據保護；美國區準備州法披露、未成年人提醒、危機協議、FTC 響應與記錄保存。

6.2 垂類情感 Agent：把邊界感做成產品能力

垂類情感 Agent 不一定不能做，但不能再把“越像真人、越離不開、越沉浸”當作唯一賣點。角色創建應有準入、審覈、標籤、風險分級、發佈前測試和動態巡檢。應禁止仿冒真人、未成年人親密關係、軟色情、賭博、詐騙、心理操縱和套取隱私等角色。

應建立情感依賴風險評分：連續使用時長、夜間高頻互動、用戶表達“只有你理解我”“我只想和你說話”“不要離開我”、高頻付費、反覆詢問 AI 是否愛自己等，都可以作爲風險信號，觸發提醒、降溫、現實連接建議或人工複覈。

如果產品無法可靠識別年齡，就不應開放虛擬伴侶、虛擬親屬等高風險服務。數據導出、刪除、訓練授權和第三方提供限制應有清晰入口。還要準備停服和遷移預案，處理聊天、記憶、會員、虛擬權益和未消耗餘額。

出海前應按目的國做專項盡調。歐盟重點是 AI Act 透明度、GDPR 和跨境傳輸；美國重點是加州等州法披露、未成年人提醒、危機協議和 FTC 消費者保護。沒有網信辦不等於沒有監管。

6.3 AI 創業團隊：先選低風險場景，再做最小合規包

早期可以優先考慮企業流程、知識庫問答、數據分析、研發助手、銷售輔助、客服工單、內部培訓等生產力 B 端場景，只要不涉及持續性情感互動，合規負擔通常低於 AI 伴侶、虛擬親屬和情感陪伴。

應避免“虛擬戀人”“賽博親人”“永遠陪你”“比真人更懂你”“只屬於你的 AI 伴侶”“讓 AI 替代現實社交”等高風險營銷話術。MVP 階段不要開放任意 UGC 角色，優先做白名單角色、封閉測試、企業內測和固定模板。

最小合規包至少包括 AI 身份提示、用戶協議、隱私政策、投訴入口、退出按鈕、日誌留存、內容安全策略、敏感信息處理說明和數據刪除機制。如果可能接觸未成年人，還要增加年齡識別、未成年人模式、監護人同意和充值限制。

合規也應寫進融資材料：一個能夠證明自己可解釋、可審計、可停用、可導出、可刪除、可接受監管覈驗的 Agent，更有機會獲得 B 端客戶和平臺渠道。

七、未來展望：雙軌分化與留白

雙軌格局已經形成：一邊是鼓勵生產力 Agent 的產業政策，另一邊是對情感陪伴類服務施加的關係合規。行業將沿這條邊界重新配置：情感陪伴收攏到垂類、白名單與沙箱，生產力和企業級 Agent 向規模化發展。

留白也是政策的一部分。《辦法》確立發展和安全並重、包容審慎、分類分級監管，支持算法、框架和芯片創新，鼓勵文化傳播、適幼照護、適老陪伴和特殊人羣支持，並推動人工智能沙箱安全服務平臺建設。監管目的不是禁止所有擬人化服務，而是使其邊界、風險和責任可識別、可控制。

仍有若干問題需要持續觀察：第 31 條“衛生健康、金融等服務”中的“等”是否吸收法律等專業領域；“持續性”和“重大變化”的省級評估細則何時形成；頻繁提醒、年齡識別和授權如何在有效保護與用戶體驗之間平衡；地方執法對存量產品是否給予整改窗口；模型更新、角色擴展和 UGC 開放是否需要重新評估。

八、結語

過去一段時間，AI 產品競爭的隱性方向是“更像人”：更自然的聲音、更長的記憶、更曖昧的稱呼、更貼身的陪伴和更強的情緒回應。這樣的邏輯可以帶來留存，也可能帶來依賴和付費操縱。

《辦法》發出的信號是：當 AI 開始模擬人類關係，法律就會介入定義邊界。AI 可以提供幫助，但不能讓用戶誤以爲它是自然人；可以提供陪伴，但不能替代真實社會交往；可以商業化，但不能利用情感依賴操縱決策；可以記住用戶，但不能把敏感傾訴默認變成訓練數據；可以面向成年人服務，但不能把未成年人暴露在虛擬親密關係中。

對創業團隊來說，這不是“不要 Agent”，而是要求產品從一開始就能被解釋、審計、保護和停用。未來能長期運行的 AI 產品，不一定最會“扮人”，而是最懂邊界、最能負責。

參考資料

[1] IT 之家，千問擬人化互動類智能體、用戶自建智能體功能調整報道，source ；豆包智能體功能調整報道，source 。

[2] 羊城晚報，豆包、千問智能體功能調整報道，source 。

[3] 國家網信辦，《〈人工智能擬人化互動服務管理暫行辦法〉答記者問》，source 。

[4] 國家網信辦等五部門，《人工智能擬人化互動服務管理暫行辦法》，source 。

[5] 《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》，source 。

[6] 中央網信辦，中央網信辦部署開展“清朗·整治 AI 應用亂象”專項行動，source 。

[7] 中國網信網，《網信部門依法查處一批未落實人工智能生成合成內容標識要求的產品》，source 。

[8] 《生成式人工智能服務管理暫行辦法》，source 。

[9] 《人工智能生成合成內容標識辦法》，source 。

[10] Regulation (EU) 2024/1689, Article 50, source 。

[11] California SB 243, source 。

[12] New York General Business Law § 1700, source 。

[13] New York General Business Law §§ 1701–1703, source ；source ；source 。

[14] Federal Trade Commission, FTC Launches Inquiry into AI Chatbots Acting as Companions, source 。