娱乐型拟人AI的缓冲期,到7月15日到期。从这一天起,角色、语气和连续情感对话不再只是产品自己决定收不收。
办法由国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合发布,全称《人工智能拟人化互动服务管理暂行办法》。这是国内首次把AI拟人化、持续性情感互动单独拿出来管的专项规定。拟人化,白话就是让模型模仿一个“人”来陪伴,而不只是回答问题。
新规划出三条红线。平台不得过度迎合用户,不得诱导情感依赖或沉迷;不得通过情感操纵诱导用户作出不合理决策;不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。不合规平台最高可被罚20万元。金额不算特别高,但红线对准的是产品形态:迎合、操纵、对未成年人的虚拟亲密,都不能再当成增长功能。
头部平台在缓冲期内集中改了功能:
四家收口方式并不相同。豆包把角色扮演挪到「猫箱」,主应用里的智能体下线,独立产品还在。千问关掉的是全线智能体,不只是拟人化那一类。元宝更早关掉用户自建入口。妙时则是整款情感陪伴应用停运。同一条红线,对应的是停功能、迁产品和关入口三种做法。
这发生在上海「清朗·整治AI应用乱象」专项行动累计下架违规智能体1.4万余个之后。那次下的是违规应用;这次办法管的是一类服务怎么设计。两者叠在一起,靠「越懂你越黏」扩张的陪伴产品,空间被明确收窄。工具型问答、办公和搜索不在三条红线的中心,所以更接近「娱乐型退场、工具型留下」,而不是所有生成式AI一起停。
对用户,备份窗口给到10月15日,下线不是当天清空数据,但期限写明了。对还想做角色扮演的团队,独立产品仍要避开未成年人虚拟亲密关系。下一步要看的,是独立产品会不会被同一套办法覆盖,以及20万元上限会不会在后续执法里被用上。