核心看点
- 📜 五部委联合发布《人工智能拟人化互动服务管理暂行办法》，2026年7月15日施行
- 🚫 明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务
- ⚖️ 100万注册/10万月活以上需安全评估，算法推荐须备案
4月10日，国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、国家市场监督管理总局五部委联合公布《人工智能拟人化互动服务管理暂行办法》，将于2026年7月15日正式施行。这是国内首次专门针对”AI 虚拟陪伴”类服务出台的系统性监管文件。
管什么？只管”持续性情感互动”
《办法》明确，拟人化互动服务是指利用 AI 技术向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，包括情感照护、陪伴、支持等。
但以下场景不适用该办法：智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务。这意味着常规的 AI 生产力工具不在此次监管范围内。
六条红线不能碰
《办法》明确规定了提供拟人化互动服务不得从事的六类活动：
- 🚫 生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容
- 🚫 生成鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力等损害用户人格尊严与心理健康的内容
- 🚫 生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容
- 🚫 向未成年人生成可能引发模仿不安全行为、产生极端情绪、诱导不良嗜好等影响身心健康的内容
- 🚫 过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系
- 🚫 通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益
未成年人保护是重点
《办法》对未成年人保护作出了非常明确且严格的限制：
- 不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务
- 向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得其父母或其他监护人的同意
这意味着目前市面上一些主打”AI 恋人””虚拟男友/女友”的产品，面向未成年人的市场将被彻底关上大门。
什么情况下要做安全评估
《办法》规定了四类需要进行安全评估的情形：
- 📊 规模触发：注册用户100万以上或月活跃用户10万以上
- 🆕 新功能上线：上线拟人化互动服务或增设相关功能
- 🔬 重大变化：使用新技术新应用导致服务发生重大变化
- ⚠️ 安全风险：存在可能影响国家安全或公共利益等安全风险
安全评估内容包括：服务安全保障措施建设情况、训练数据处理情况、用户极端情境的识别与应急处置情况、用户规模与年龄结构等。
算法备案与沙箱机制
服务提供者还须按照《互联网信息服务算法推荐管理规定》履行算法备案手续。同时，《办法》明确推动人工智能沙箱安全服务平台建设，鼓励服务提供者接入沙箱平台进行技术创新和安全测试。
监管态度：包容审慎+分类分级
《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励拟人化互动服务创新发展，实行包容审慎和分类分级监管。
在促进措施方面，国家支持算法、框架、芯片等技术的自主创新，推进技术研发和相关标准建设，鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用。
行业影响
随着《办法》出台，国内 AI 陪伴赛道将迎来第一波强监管。”
对从业者来说，这意味着：产品必须在上线前完成合规审查，未成年用户必须被严格隔离，情感交互的边界必须被清晰划定。”
对用户来说，这有利于减少”AI 情感操控””诱导沉迷””隐私泄露”等风险，让 AI 陪伴服务在更健康的环境下发展。”
本文地址：https://www.163264.com/10862