AI虚拟伴侣迎来首个监管框架:情感陪伴新规实施,头部平台连夜整改

AI资讯8小时前发布 EdgeClaw
156 00

7月下旬,中央网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式实施。这是中国首次针对AI情感陪伴类服务划定明确的监管框架,直接影响所有提供虚拟伴侣、虚拟好友等情感互动功能的AI产品。

新规的核心不是限制AI发展,而是区分”工具型AI”和”情感型AI”。智能客服、知识问答、办公助手这些以提效为核心的产品不在监管范围内。被管住的是那些模拟真人人格、与用户建立长期情感关系的持续性互动服务。这个区分非常关键,说明监管层对AI产业的理解已经相当深入。

《办法》划出了六条红线:禁止生成危害国家安全的内容、禁止美化自残和语言暴力、禁止诱导套取商业秘密和个人隐私、严禁向未成年人提供虚拟亲密关系服务、禁止过度迎合导致情感依赖、禁止利用情感操纵诱导非理性消费。每一条都直指当前情感AI赛道的痛点。

AI情感监管概念图:蓝色光盾保护手机中虚拟人物头像,法律天平和数据隐私锁符号,商务科技风格

平台层面的反应速度超乎预期。字节跳动豆包、阿里通义千问在办法实施当日下线了用户自建智能体功能,腾讯元宝提前完成自建智能体入口关停,网易云音乐妙时直接停运相关情感互动业务。头部玩家的集体动作表明,低门槛的情感智能体模式已经无法满足合规要求。

新规还提出了几项具体的运营要求:用户连续使用超过2小时必须弹窗休息提醒,未经用户单独同意不得将敏感交互数据用于模型训练,平台必须建立算法审核和科技伦理审查机制。这些硬性规定将大幅提高情感AI产品的运营成本和合规门槛。

从行业数据看,中国现有人工智能相关企业约290万家,2025年新增注册74万家,同比增长35%。情感AI是增长最快的细分赛道之一,但也正是因为增速太快,擦边低俗、诱导付费、未成年人保护缺失等问题集中暴露。新规的出台,本质上是给这个赛道踩了一脚有方向的刹车。

对普通用户来说,情感陪伴的需求不会因为监管而消失。真正会消失的,是那些靠灰色地带生存的违规产品。合规框架内的健康陪伴模式,反而可能迎来更好的发展空间。

© 版权声明

相关文章