假設一家創業公司做一款給 8 歲孩子用的 AI 繪本生成工具。家長付費，孩子和家長一起選角色、主題與場景，系統生成六頁圖文草稿；親子逐頁審閱、修改後再保存。第二版記住角色和創作偏好，第三版讓故事角色主動問候並持續對話，第四版根據創作過程與作品給出“表達能力”或“想象力”評分，第五版把故事角色延伸爲會說話的實體玩具。
這五版的底層模型可以完全一樣，合規問題卻一版比一版不同。僅僅問“有沒有取得家長同意”，無法回答機器能否扮演親密關係、能否評價孩子的能力、是否要承擔玩具安全責任，也無法解釋爲什麼同一個功能在中國大陸、歐盟和美國會走進不同的制度。討論兒童 AI，起點應該是產品究竟讓孩子做什麼、與誰建立關係、由誰作決定、在什麼實體上使用。
一、先把“兒童”從一個模糊標籤變成具體年齡
面向 8 歲兒童的產品至少要知道三條並不相同的年齡線。中國大陸《個人信息保護法》將不滿 14 周歲未成年人的個人信息列爲敏感個人信息，要求特定目的、充分必要和嚴格保護，處理時取得父母或其他監護人同意並制定專門規則；《未成年人網絡保護條例》對不滿 18 周歲的內容、沉迷和網絡權益另有保護。中國《個人信息保護法》第28—31條、《未成年人網絡保護條例》。因此，“12 歲以下”適合做產品分齡，卻不是中國兒童個人信息保護的統一法定門檻。
美國聯邦 COPPA 主要圍繞未滿 13 歲兒童的個人信息。它看服務是否面向兒童，或者一般受衆服務是否實際知道自己在收集兒童信息，而不只是首頁寫了“13+”沒有。FTC 的 COPPA 規則及 2025 年修訂、FTC 實務問答。歐盟 GDPR 第 8 條涉及的 13—16 歲，則是直接向兒童提供信息社會服務、且以同意作爲數據處理依據時的監護人同意年齡；成員國可以在 13 至 16 歲之間確定門檻。它不是兒童使用 AI 的統一最低年齡。GDPR 第8條。
三地年齡數字相近，法律問題卻不同。把一個市場的“13 歲”直接複製到全球註冊頁，既可能漏掉義務，也可能爲了核驗年齡額外收集身份證、人臉等本來不需要的數據。更穩妥的做法是先按功能確定需要知道的是“是否未滿某年齡”，還是精確生日，再選擇與風險相稱的年齡保障辦法。
二、有界任務，比“一個會聊天的朋友”更容易說明價值
第一版繪本工具有清楚的任務：讓孩子在家長陪同下選擇角色、主題和場景，獲得六頁圖文草稿，再共同檢查和修改，決定是否保存。產品團隊可以測試圖文是否一致、內容是否合齡，孩子能否表達自己的想法並指出錯誤，家長能否有效審閱，而不能把模型寫出的字數當作孩子的創作能力。比較對象包括親子自製繪本、現成創作模板和不使用 AI 的共創活動；AI 的價值須由這些比較證明，不能由“生成得很快”替代。若允許孩子選用他人角色素材或上傳資料，建議在輸入與成品環節篩查他人作品、肖像及家庭私人信息；這是一項產品風控建議，並非法律指定的逐頁審稿流程。《生成式人工智能服務管理暫行辦法》第4條要求提供和使用服務尊重知識產權及他人的肖像權、隱私權、個人信息權益。辦法第4條。
現有研究只能提供相鄰場景的線索，不能直接證明生成繪本會提高創造力。一項北京幼兒園、148 名約 5—6 歲兒童的結構化閱讀對話實驗發現，效果隨兒童原有語言能力而變化；研究對象是閱讀對話，不是兒童創作生成繪本。Cheng 等，2024。StoryBuddy 對 12 組親子家庭的設計研究探索了人與 AI 如何分擔講故事的工作，也不能證明機器生成的圖文就是孩子獨立寫出的作品，或成人可以退出審閱。StoryBuddy 原文。產品若希望驗證兒童表達，應記錄孩子提出了什麼、改動了什麼、怎樣糾正模型，而不只是展示成品的精美程度。
這也解釋了“教育”不是一張萬能通行證。中國教育系統的《中小學生成式人工智能使用指南（2025 年版）》在中小學應用場景中提出，小學生不獨自使用開放式內容生成功能，教師可以在課內適當用 AI 輔助教學。政府轉載的指南全文。它是學校應用的指引，不等於一切家庭繪本生成工具的統一處罰條款。但如果產品進入學校，誰選擇創作任務、誰審查生成圖文、誰接收學生素材與作品、誰給最終評價，就必須說明白。
美國同樣不能把“學校採購”當作兒童數據的空白支票。FTC 允許學校在限定教育用途內代父母同意 COPPA 所需事項，但不能據此授權廣告、商業營銷或與教學無關的二次利用；教育記錄還可能另受 FERPA 約束。FTC 教育技術政策聲明。家長版和學校版即使使用同一模型，數據用途和授權路徑也應分開設計。
三、當機器開始“記住我”，產品改變的不止是存儲期限
第二版記住孩子喜歡的故事角色、畫風和創作偏好，看似只多了一項個性化功能，卻可能把一次作品變成長期畫像。若還允許上傳塗鴉或照片，草稿、上傳素材、孩子的修改記錄乃至照片中的人臉與家庭環境，都可能進入兒童檔案；若不提供上傳功能，就不應假定這些數據已經被收集。團隊要回答哪些數據確實服務繪本創作、保留多久、是否用於訓練或廣告、誰可查看、怎樣刪除。中國《個人信息保護法》要求在處理敏感信息、自動化決策、委託處理或向境外提供個人信息前做個人信息保護影響評估；《未成年人網絡保護條例》還要求處理未成年人個人信息者每年審計並及時報告審計情況。中國《個人信息保護法》第55—56條、《未成年人網絡保護條例》第37條。
如果孩子的創作提示、塗鴉或照片被送到海外模型，不能把“用戶不足十萬人”當成當然豁免：中國 2024 年跨境規則中的該數量豁免明確不含敏感個人信息，而不滿 14 歲兒童個人信息本身屬於敏感信息。具體應走何種出境機制，仍取決於處理者身份、數據量、特定場景豁免及告知、單獨同意和影響評估等條件。《促進和規範數據跨境流動規定》第5、7—10條。
在受 COPPA 約束的美國服務中，若繪本創作素材包含兒童個人信息，只能在實現特定收集目的的合理必要期限內保留，不能因爲可能用於將來訓練就無限期保存。COPPA §312.10。若後續加入兒童配音，美國 COPPA 對聲音數據的保護同樣需要考慮。FTC 對 Alexa 的案件以同意令結束，涉及兒童語音、位置數據保存和刪除的指控；它提示刪除必須覆蓋錄音、轉錄、備份和供應商流程，但同意令不等於法院審判確認了每一項指控。FTC Alexa 案件頁。創作素材和配音“可保存”與“應當保存”是兩回事。
四、關係功能，是最容易被低估的版本更新
第三版讓繪本裏的故事角色每天主動問候孩子，並能接着昨天的對話繼續聊。家長可能覺得貼心，產品經理可能看見留存率；法律看到的卻可能是另一種服務。中國自 2026 年 7 月 15 日實施的《人工智能擬人化互動服務管理暫行辦法》，適用於向境內公衆提供、模擬自然人人格與溝通方式的持續性情感互動。不涉及這種互動的知識問答、學習教育等不在該辦法範圍內。因此，不能說所有有角色的 AI 都被禁止，也不能靠“學習助手”這個名稱排除實際的陪伴功能。辦法第2、14條。
該辦法的界線很清楚：不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務。給不滿 14 歲兒童提供其他擬人化互動服務，須取得監護人同意；還要建立未成年人模式，支持現實提醒、使用時長和角色/消費控制，並評估上線等情形的安全風險。監護人同意不能把被禁止的虛擬親密關係變成允許提供的產品。即使產品沒有達到該辦法的“持續性情感互動”門檻，生成式服務的防未成年人依賴義務、內容安全與兒童數據規則仍可能適用。擬人化互動辦法第14、22條、《生成式人工智能服務管理暫行辦法》第10條。
歐盟沒有一條“禁止全部兒童 AI 朋友”的統一現行條款。AI Act 禁止滿足法定構成要件的操縱、欺騙或利用年齡弱點行爲，關鍵在於是否實質扭曲行爲並造成或合理可能造成顯著損害；直接與人互動的 AI 透明告知義務則已於 2026 年 8 月適用。AI Act 現行文本。歐盟在 2026 年 9 月提出的 EU KIDS Act 擬進一步規範陪伴機器人，但截至本文核驗日仍是立法提案。提案 COM(2026)681。
美國則要按州拆開看。加州 SB 243 已對符合定義的 companion chatbot 設透明告知、自傷響應和已知未成年人使用提醒等要求；加州針對特定實體兒童陪伴玩具的 SB 867 已簽署；該法針對供未滿 16 歲玩耍、包含法定陪伴聊天機器人的實體玩具，其商用禁令按通常生效規則預計自 2027 年起適用，不能倒寫成今天所有 AI 玩具都被禁。加州 SB 243 立法記錄、SB 867 簽署公告。Character.AI 相關訴訟涉及一名 14 歲少年，法院先允許部分訴請繼續推進，後由當事人和解；這些程序事實不等於法院認定 AI 造成損害或平臺違法。法院駁回動議裁定、結案命令。
關係設計值得問的具體問題是：故事角色會不會要求孩子保守祕密？它會不會在孩子想離開時挽留？會不會把情緒脆弱時的對話變成付費升級入口？會不會在危機時假裝自己能夠替代真人幫助？這些問題既是法律測試，也是產品定位測試。
五、把建議交給 AI，和把決定交給 AI，是兩種產品
第四版根據孩子的創作過程和繪本作品，輸出“表達能力”或“想象力”評分。如果評分只用於家庭裏提示下一次怎麼創作，與它進入學校正式評價、分班或升學判斷，風險顯然不同。歐盟 AI Act 的教育高風險分類聚焦入學、學習結果評價（包括據此引導學習過程）、教育層級判斷、考試違規監控等列明用途；普通家庭繪本生成工具不會僅因面向學生自動變爲高風險系統。2026 年正式修法已調整時間：Annex III 教育等高風險系統的主要義務自 2027 年 12 月 2 日起適用，嵌入特定受第三方符合性評估產品的 AI 另有 2028 年 8 月 2 日節點，不能繼續沿用舊版統一時間表。AI Act 第6條及附件III、Regulation (EU) 2026/1744。
無論是否正式歸爲高風險，兒童理解“評分”往往比成年人更容易把它當成權威結論。模型可能代寫文本、決定畫面構圖；若不區分孩子的選擇與修改和模型的產出，評分甚至不能測量孩子自己的表達或想象力。團隊至少要驗證錯誤評分如何申訴、教師能否推翻、數據是否代表真實能力，以及不同語言和發展階段的兒童是否被系統性低估。把評分改名叫“成長建議”，不改變它在學校實際用於分流時的作用。
六、毛絨外殼不會把雲端服務變成普通玩具
第五版把繪本角色延伸爲會說話的實體玩具後，麥克風、揚聲器、電池、無線連接、預裝應用和雲端模型都變成產品的一部分。中國網信部門曾通報：部分兒童智能手錶的語音問答傳播有害信息，並對相關企業約談、處罰；通報沒有逐項公開處罰決定書，因此它說明監管關注方向，不構成所有智能玩具已違法的結論。2024 年官方典型案例通報。實體安全認證、內容審覈和兒童數據保護應分別驗收，不能以其中一張證書代替全部。
歐盟玩具安全、聯網/無線產品與數據保護規則也要分別判斷。新的歐盟玩具安全條例已經生效，但數字產品護照等主體要求到 2030 年 8 月才適用；AI Act 的產品高風險路徑還要滿足安全部件或產品本身及第三方符合性評估等要件，並非“會說話的玩具”一律高風險。歐盟玩具安全條例說明、AI Act 第6條。美國還要看 CPSC 玩具安全要求及各州規則。CPSC 玩具安全指南。
英國的 Children’s Code 會關注可能被未成年人訪問的聯網服務和玩具，但英國 2026 年關於進一步限制社媒及聊天機器人的法律目前主要是授權後續法規，不能直接寫成已全面禁止。ICO Children’s Code、社媒訪問限制授權條款、AI 服務相關授權條款。澳大利亞自 2025 年 12 月實施的是特定社交媒體的未滿 16 歲賬號限制，不是對所有 AI 服務的統一禁令；能生成限制級內容的 AI 陪伴服務另需按內容安全規範判斷成年年齡保障。eSafety 社媒年齡限制說明、相關內容安全規範。
對創業公司而言，可以先確定孩子和家長要完成的有限創作任務，保留退出和糾錯的權利，讓家長、教師或專業人員知道自己何時必須接手；每次加上偏好記憶、主動對話、能力評分、作品公開分享或實體玩具，就重新畫一次數據流、關係邊界和責任圖。這會讓產品價值與合規成本在設計階段同時可見。