当AI学会“陪着”孩子——情感陪伴类应用面向未成年人的三条合规红线与实务判断

#引言

　　一家做AI情感陪伴产品的小团队，把一款“会聊天、会记仇、会撒娇”的虚拟角色应用做成了爆款。用户里相当一部分是中学生——他们给AI角色起名字、讲心事、每天睡前道晚安。产品数据很好看：日活高、时长久，付费集中在“解锁专属剧情”“提升亲密度”这类虚拟商品。直到有一天，一位家长在投诉平台上贴出孩子的充值记录和聊天截图，质问“这算不算诱导未成年人沉迷”，团队才第一次认真去想：我们做的，到底是不是“防沉迷”要管的生意？

　　这不是危言耸听。当生成式人工智能从“工具”走向“陪伴”，产品体验的核心恰恰是让用户产生情感依恋，而未成年人天生更容易形成这种依恋。监管这几年也在密集补位：《未成年人网络保护条例》自2024年1月1日起施行，《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，二者叠加，已经把“防沉迷”“未成年人模式”“自动化决策营销”“敏感个人信息”几条线同时压了过来。真正的难点不在于有没有规则，而在于情感陪伴类应用究竟落在这张网的哪一格，以及落在哪一格之后该做什么。

#一、“让人离不开”是不是就是“诱导沉迷”？

规则怎么看。 《未成年人网络保护条例》第四十二条要求网络产品和服务提供者建立健全防沉迷制度，不得向未成年人提供诱导其沉迷的产品和服务，并应当及时修改可能造成未成年人沉迷的内容、功能和规则；第四十三条进一步把“未成年人模式”落到使用时段、时长、功能和内容上。《互联网信息服务算法推荐管理规定》（自2022年3月1日起施行）第八条禁止设置“诱导用户沉迷、过度消费”的算法模型，第十八条明确不得利用算法推荐服务诱导未成年人沉迷网络。《生成式人工智能服务管理暂行办法》第十条更是直接点题：提供者应当采取有效措施，防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

风险在哪里。 难就难在，“沉迷”与“过度依赖”都没有量化标准。对情感陪伴类产品而言，最有黏性的那些设计——拟人化人格、连续对话记忆、亲密度养成、每日签到提醒、离开时的“挽留话术”——恰好最容易被认定为“诱导”。尤其当“亲密度”直接与付费绑定、当算法持续推送“只有你懂我”这类内容时，即便团队主观上没有“诱导”的故意，客观效果上也构成了对未成年人依赖心理的利用。

实务上怎么做。 把防沉迷当成产品需求，而不是合规负担：设置使用时长提醒与夜间免打扰；对低龄用户默认开启更严格的时间限制；不设计连续登录奖励和“断签惩罚”；不把情感依赖程度做成付费门槛；避免使用制造愧疚或焦虑的“挽留”话术。更关键的是留下记录——把防沉迷规则、触发逻辑与后续调整做成可审计的版本，而不是只停留在用户协议的一行字里。

#二、未成年人模式，情感陪伴类应用算不算“网络社交”？

规则怎么看。 《未成年人网络保护条例》第四十三条列举了网络游戏、网络直播、网络音视频、网络社交等网络服务提供者，要求其针对不同年龄阶段未成年人设置未成年人模式，在使用时段、时长、功能和内容等方面按国家有关规定提供服务，并以醒目便捷的方式为监护人提供时间管理、权限管理、消费管理功能；第四十四条要求合理限制单次及单日消费数额，不得向未成年人提供与其民事行为能力不符的付费服务。身份核验方面，第三十一条要求为未成年人提供信息发布、即时通讯等服务时核验真实身份信息。

风险在哪里。 很多AI陪伴团队的第一反应是“我们既不是游戏也不是直播”，由此低估义务。但只要产品具备对话、社区、内容推送属性，落入“网络社交”“网络音视频”的射程并不困难；一旦被认定，未成年人模式就不是可选项，而是硬性配置。实践中常见的误判有：把年龄选择完全交给用户自填；未成年人模式藏在设置三级菜单深处；监护人管理入口形同虚设；付费限制只做金额上限却不管频次。

实务上怎么做。 默认开启、而非让用户主动开启未成年人模式；年龄分层（而不是简单分“成年/未成年”两档）对应不同的内容与功能；把监护人管理入口前置到显眼位置；将消费限制与民事行为能力挂钩，对不满八周岁、八周岁以上不满十八周岁分别处理（这背后是《民法典》第十九条、第二十条关于限制民事行为能力人、无民事行为能力人的规定）；身份核验尽量接入可信渠道，而非依赖自填。

#三、孩子对AI说的悄悄话，是普通对话还是敏感个人信息？

规则怎么看。 《个人信息保护法》（自2021年11月1日起施行）第二十八条明确，不满十四周岁未成年人的个人信息属于敏感个人信息；第三十一条要求处理不满十四周岁未成年人个人信息应当取得父母或者其他监护人的同意，并制定专门的个人信息处理规则；第五十五条把“处理敏感个人信息”“利用个人信息进行自动化决策”列为应当事前进行个人信息保护影响评估的情形。《未成年人网络保护条例》第三十二条进一步禁止强制未成年人或者其监护人同意非必要的个人信息处理，第二十四条则明令不得通过自动化决策方式向未成年人进行商业营销。

风险在哪里。 情感陪伴产品天然是“数据黑洞”：对话内容、情绪状态、作息时间、偏好标签都会被持续采集，而这些落在不满十四周岁用户身上，很可能整体构成敏感个人信息。常见的踩坑有三：其一，把一次“点击同意”当成监护人同意，既没有单独的监护人验证流程，也没有专门的处理规则；其二，把对话数据直接用于模型训练或跨场景使用，超出了最初告知的目的；其三，用对话与行为数据做个性化推荐甚至付费诱导，直接触碰“自动化决策营销”的红线。

实务上怎么做。 对不满十四周岁用户，落实监护人同意与专门处理规则，并完成个人信息保护影响评估且留档；坚持最小必要，默认不将未成年人对话用于训练，确需使用的做去标识化并单独取得同意；把“推荐”与“营销”分开，对未成年人关闭基于其个人特征的商业推送；对可能影响身心健康的生成内容（《未成年人网络保护条例》第二十三条所指情形，《生成式人工智能服务管理暂行办法》第十四条亦要求对违法内容及时处置）建立识别与提示机制。

#四、AI生成内容的标识义务，别漏在自己身上

规则怎么看。 《生成式人工智能服务管理暂行办法》第十二条要求提供者按照《互联网信息服务深度合成管理规定》（自2023年1月10日起施行）对图片、视频等生成内容进行标识；《人工智能生成合成内容标识办法》（国信办通字〔2025〕2号，自2025年9月1日起施行）第三条区分“显式标识”与“隐式标识”，第四条要求对文本、音频、图片、视频、虚拟场景等生成合成内容添加相应标识。《互联网信息服务深度合成管理规定》亦要求，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等功能的，应当进行显著标识，避免公众混淆或者误认。

风险在哪里。 情感陪伴类应用几乎全部属于“智能对话”场景，却常常忽略一件事：AI说的话本身，也需要让用户——尤其是分辨能力较弱的未成年人——知道“这是AI，不是真人”。当拟人化程度足够高，缺少清晰标识不仅涉及标识义务，还可能放大“AI替代真实人际”的误导，进而与前面的防沉迷、人格权问题相互叠加。

实务上怎么做。 在交互界面显著位置持续提示AI身份，而不是只在首次弹窗时提示一次；对生成内容按要求保留显式标识与隐式标识；对以未成年人为主的产品，用更直白、更易理解的方式说明“这是程序，不是朋友”，并在必要时引导其寻求真实的人际支持与专业帮助。

#律师实务建议

　　对情感陪伴类应用的团队，我通常建议按三条线同时推进。产品上线前，先做一次定性：自己的服务是否落入《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》的适用范围，据此确定未成年人模式、防沉迷、年龄核验、消费限制究竟是“应当做”还是“可选做”；同步梳理未成年人个人信息的处理流程，为不满十四周岁用户设计监护人同意与专门规则。产品运营中，把防沉迷规则、标识机制、自动化决策开关、影响评估报告做成可被抽查的证据链，而不是等监管上门才临时补。出现争议时，第一时间回溯产品设计文档与规则版本，判断到底是“设计缺陷”还是“执行不到位”——这两种定性，对应的整改路径与责任承担完全不同。

　　还要提醒一句：未成年人保护是“结果论”色彩很重的领域。企业很难用“我本意是好的”“我没有诱导的故意”来抗辩，监管和法院更看重客观效果与是否尽到应有的注意义务。把对未成年人的保护做进产品底层逻辑，远比事后在投诉与诉讼中解释更省成本。

#结语

　　AI陪伴不是原罪，让孩子在深夜里只跟一个程序说心里话，才是真正需要警惕的事。监管给出的方向也并非禁止，而是划出边界：防沉迷、未成年人模式、数据与营销的克制、清晰的AI标识。对产品团队来说，把这几条做实，短期看是约束，长期看是护城河——毕竟，一个能让家长放心的产品，才有资格谈“陪伴”。

---

产品面向未成年人，防沉迷、未成年人模式与数据合规怎么落地？预约测绘，帮你把AI陪伴应用的合规边界一次理清。