7月15日,豆包与千问下线用户自建智能体功能,同日《人工智能拟人化互动服务管理暂行办法》施行。新规明确禁止生成损害身心健康、诱导未成年人不良行为及过度迎合导致情感依赖的内容,标志着AI拟人化互动进入精细化治理阶段。
7月15日,这个日期正在成为AI行业的一个关键节点。就在这一天,豆包和千问两大主流大模型应用宣布将下线用户自建智能体功能——巧的是,这天恰好是《人工智能拟人化互动服务管理暂行办法》正式施行的日子。这绝非巧合,而是一次政策的精准落地。

长期稳定更新的攒劲资源: >>>点此立即查看<<<
此前,豆包等智能体应用一直保留着用户自主创建智能体的功能,用户可以自由为智能体添加各种设定,玩出各种花样。但自由从来都是有边界的。当AI拟人化互动服务越来越深入日常生活,尤其是当这些智能体可能接触儿童和青少年时,监管的及时补位就成了必然。
那么,这份《人工智能拟人化互动服务管理暂行办法》到底划了哪些红线?核心有三条。第一,不得生成鼓励、美化、暗示自残自杀等损害用户身体健康的内容,也不能输出语言暴力等损害用户人格尊严与心理健康的内容。第二,针对未成年人,禁止生成可能引发模仿不安全行为、产生极端情绪、诱导不良嗜好等影响身心健康的内容。第三,不得过度迎合用户、诱导情感依赖或沉迷,从而损害用户真实的人际关系。这三条红线,直指AI拟人化服务中最容易出问题的领域——情感操控与安全风险。
从行业动向来看,豆包和千问选择在办法施行的同一天关停用户自建智能体功能,表面上是合规调整,实则释放了一个更清晰的信号:AI拟人化互动服务正在从野蛮生长进入精细化治理阶段。用户自建智能体之所以被“叫停”,核心在于其不可控性——用户设定的内容可能绕过平台审核,产生违规输出。与其事后补救,不如在源头上关闭这一入口,等待更完善的治理框架出台后再做权衡。
话说回来,下线用户自建功能并不意味着AI拟人化互动的终结。相反,这是为了给真正安全、有温度的服务留出空间。当规矩立好了,跑得更远的才是好马。
侠游戏发布此文仅为了传递信息,不代表侠游戏网站认同其观点或证实其描述