网易首页 > 网易号 > 正文 申请入驻

锐评智能体下架事件:第三条和第十四条之间的距离,或许是 AI 的第一场悲鸣

0
分享至

全文共5028字,阅读完需要大概9分钟,您也可以直接点击上方耳机按钮听大脸猫老师朗读全文。


刚刚,有人在社交平台上发了一条消息:

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。突然通知7.15停止服务,如遭雷击。"

这是因为,字节跳动旗下的豆包7月3日晚毫无征兆地发布公告:智能体功能将于7月15日下线。

下线后用户可在一段时间内查看并自行保存智能体信息及历史对话数据。10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,届时将无法继续访问。

几乎是同一时间,阿里的千问也发了公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

两条公告,同一个日期。

7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行的日子。

一、从"分类分级"到"一刀切",十一条的距离

先说这部法规。

2026年4月10日,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布。

这是全球首部专门针对AI情感陪伴的国家级立法。

它的第三条写了这么一段:

"国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。"

分类分级。

这四个字,是整部法规的基调。

是原则,是方向,是立法者写在纸面上的承诺。

然后往下看。

第十四条:"拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。"

注意,这里说的是"未成年人"。不是14岁以下,不是16岁以下。是所有18岁以下的未成年人。

14岁的孩子和17岁的孩子,认知能力差了多少?

一律禁止。

第十八条:"拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。"

所有用户。

不分年龄,不分场景,不分依赖程度。每累计超过2小时,弹窗。出现过度依赖倾向,提醒你"对面不是真人"。

第三条说"分类分级"。第十四条说"一律禁止"。第十八条说"无差别触发"。

从第三条到第十四条,不过十一条的距离。

但从"分类分级"到"厂商的快速下架",中间隔着的是立法者没能跨越的鸿沟——理念写在了原则条,操作全交给了禁止款。


二、12天缓冲期,可能是数千万人的情感资产

豆包拥有超过5000万月活用户,其中大量用户创建并使用了智能体——和AI伴侣维持日常对话,为已故亲人建立数字分身,在深夜打开对话框,把白天说不出口的话一个字一个字敲进去。

现在,12天缓冲期。

数据迁移?

只能截图和导出文本。

对话记忆、角色设定、情感积累——全部无法带走。

10月15日后,一切按隐私政策处理,届时将无法继续访问。

有人哭。

有人在微博上正式投诉:"平台在关停前未进行任何社会影响评估,未提供心理健康保障措施,已导致多起用户出现情绪崩溃、严重心理应激等反应。"

有人怒斥:"一刀切删除智能体功能,且没有任何前期说明、可行的迁移方案,无视用户需求,粗暴且不负责任。"

大量智能体用户表示难以接受。

这不是"产品功能调整"。

这是数千万人的情感资产,被一纸通知强制清零。

三、企业为什么选"下线"而不是"合规"?

法规没有要求关闭智能体功能。

它要求的是:未成年人保护、使用时长提醒、极端情绪识别与干预、内容审核、数据合规。

这些事,做起来难吗?

难。

但"难"和"不可能"是两回事。

凤凰网科技转载《读佳》的分析指出一个关键背景:拟人化闲聊类智能体"算力消耗大、单体价值低",属于典型的"高耗低效"业务;千问早已在调整商业化方向,向B端企业服务转型。

换句话说,企业选择下线,不全是因为法规太严,也是因为合规成本高于业务收益。

但这恰恰是制度设计需要我们深思的地方。

一个合理的分级制度应该是什么样的?

低风险场景,低成本合规即可运行。

高风险场景,严格审查、重罚违规。企业算得过账,才会选择留下来合规,而不是直接退场。

现在的局面是:合规门槛对所有场景一视同仁。

"一键脱衣"和"已故亲人的数字分身",面临同样的监管压力。

上海"清朗"行动中下架的1.4万余个违规智能体里,这两类混在一起,被同一种力度整治。

企业算了一笔账:留下来合规,成本太高;直接关掉,损失有限。

于是数千万用户陪葬。

这不是"优胜劣汰"。

这是"一刀切淘汰"。


四、看看别人怎么做的

同一个月,6月19日,挪威首相斯特勒宣布了对中小学AI使用的分级管控:

  • 6到13岁——原则上不得使用生成式AI工具。

  • 14到16岁——可以在教师全程监督下谨慎使用。

  • 17到19岁——学习如何规范使用AI,为未来做准备。

三档。

按年龄,按认知发展阶段,递进式管控。

同样是"保护未成年人",挪威给出了三个选项。我们的反馈只有一个——禁。

而且挪威的选择有数据支撑:2022年PISA测评显示,挪威15岁学生阅读成绩较2018年显著下跌约23分,数学跌至历史最低(据OECD公开报告);校园手机禁令实施后,女生成绩有所回升、心理症状相关就医人数据Abrahamsson 2024 NHH讨论稿报告呈大幅下降。他们先做了研究,再画了线。

我们的《暂行办法》呢?据公开可查的权威文献检索,14到18岁青少年使用AI虚拟伴侣的心理影响,目前尚缺乏专门针对这一年龄段的大规模实证因果研究。

没有足够的证据,但选了最严的一档——全面禁止。

不是因为有证据表明17岁的孩子和7岁的孩子面临同样的风险。

而是因为一刀切最简单。

我不想去讨论什么阴谋论之类的事情。

但是就这件事而言,企业选择最符合利益的策略,本身,就是值得我们去思考的。


五、文件中值得认真学习的地方

更值得注意的是,我们的教育系统,一直在摸索着一些事情。

2025年5月,教育部基础教育教学指导委员会发布《中小学生成式人工智能使用指南》。

分学段设规范:小学禁止独自使用开放式内容生成,初中可适度探索,高中允许结合技术原理开展探究性学习。

这份文件里有一句话,原文照录:

"中小学校要避免采取'一刀切'的简单化管理模式。"

2025年11月,教育部教师队伍建设专家指导委员会发布《教师生成式人工智能应用指引》,划了六条红线作为底线,同时在六大教学场景鼓励教师"会用善用"AI。

当然,注意!这个委员会发布的,并不是官方法规,不具备法规性。它仅仅是个参考,一个“指引”。

2026年5月,世界数字教育大会发布《人工智能教育伦理:参考框架》,提出了"禁止准入、有限使用、鼓励使用"三分法。

三份文件。

一条清晰的递进线:分学段,划红线,建框架。

方向一直是精细分级。

然后《暂行办法》来了。

教育部提倡分层分学段,

网信办执行严格标准。

同属国务院体系,两个部门对同一问题的治理哲学截然不同——但是三份教育文件都是"指导性文件"和"参考框架",法律效力远不如五部委联合发布的部门规章。

软法说了分级,硬法让商人发现成本太高。

于是,干脆不玩了。

六、欧盟的参照:高风险≠禁止

欧盟的AI法案提供了另一个参照。

四级风险金字塔:

不可接受风险——完全禁止。社会评分、实时远程生物识别、职场情绪识别等8类极端场景。仅8类。

高风险——严格合规义务。事前评估、文档记录、人工监督、定期审计。但允许存在,合规即可运行。教育评估、医疗诊断、招聘筛选都属于此类。

有限风险——透明度义务。告知用户正在与AI互动。

最小风险——无额外义务。

核心哲学:高风险不等于禁止,合规即可运行。

罚款是3500万欧元或全球营收7%。逻辑很清楚:给企业两个选择——要么合规运营,要么承受天价罚单。不是"要么不做,要么偷偷做"。

我们的《人工智能安全治理框架》2.0版也提出了安全风险分级原则,从应用场景、智能化水平、应用规模等维度对风险进行评价分级——精神上指向精准治理而非一刀切。

《智能助手类智能体安全分级规范与建设指南》构建了L1到L5五级安全分级。广州还在试点AI沙盒监管,首违不罚、轻微免罚。

理念不缺。分级标准不缺。地方实践不缺。学者方案不缺。

缺的是操作性条款。

第三条写了"分类分级监管"。

这不是理念问题。这是执行力问题。


七、一个尖锐的悖论

这里有一个值得停下来的悖论。

《暂行办法》第十三条要求:服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。

法规要求AI识别极端情绪,安抚用户,并在真正危险的时候把真人拉进来救人。

但平台选择在法规施行日直接关停服务——这个行为本身,制造了大规模的极端情绪。

数千万用户收到下线通知。

有人哭到凌晨。

有人出现严重心理应激反应。

有人正式投诉权益被侵害。

这不是黑色幽默。

八、如果不用一刀切,应该怎么做?

我们试想一下,可否在操作层设计一套框架?

与教育部"禁止准入、有限使用、鼓励使用"的同样设计。

禁止级:情感操纵、诱导自残、利用AI诈骗、儿童性化拟人等。完全禁止,重罚。没有商量余地。(对应欧盟"不可接受风险"的8类逻辑)

限制级:14到18岁使用虚拟伴侣、高风险情感依赖场景。监护人参与,使用时长限制,强制标识,定期评估。参照挪威的14到16岁模式。

合规运行级:成年人虚拟伴侣、一般情感陪伴。备案、安全评估、2小时提醒、极端情绪识别与干预。合规即可运营,违规重罚。参照欧盟高风险类别。

鼓励级:适幼照护、适老陪伴、特殊人群心理支持、已故亲人数字分身(需近亲属授权+内容审核)。简化备案,沙盒试点。

核心转变就一句话:从"风险等于禁止"到"风险等于更严格的合规要求"。

用重罚倒逼合规,而不是用禁令消灭服务。

让14到18岁的青少年在监护人参与下有限使用,而不是把他们推向不受监管的灰色地带。

让成年人在合规框架下自由选择,而不是让数千万人的情感资产在一纸通知中归零。

让企业算得过账,选择留下来合规,而不是直接退场。

九、回到开头那条消息

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。"

这个人不需要同情。

这个人需要的是一个解决方法,让自己的感情被强制清零。

治理一个新兴技术领域,最难的不是找到风险在哪里,而是为不同等级的风险设计不同的应对方式。

一刀切不是治理。

一刀切是逃避治理。

它看起来雷厉风行,实际上把所有难题都推给了市场、推给了用户、推给了时间。

一刀切不是安全。

一刀切是安全的幻觉。

真正的安全,是在分级制度中,让每一级都有章可循、有据可查、有人负责。

11天后,《暂行办法》就要施行了。

数千万人的情感链接,已经进入倒计时。

这会不会只是AI唯一的一场悲鸣?

【参考来源】

[1] 《人工智能拟人化互动服务管理暂行办法》,国家网信办、发改委、工信部、公安部、市场监管总局联合发布,2026年4月10日发布,2026年7月15日施行。第三条(分类分级监管)、第十三条(极端情绪干预与联络监护人)、第十四条(未成年人禁虚拟亲属/伴侣)、第十八条(2小时提醒与沉迷干预)。

[2] 豆包智能体下线公告:2026年7月3日发布公告,智能体功能7月15日下线,10月15日按隐私政策处理数据。

[3] 千问智能体下线公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

[4] 凤凰网科技转载《读佳》分析:拟人化闲聊类智能体"算力消耗大、单体价值低",属高耗低效业务;千问向B端企业服务转型。

[5] 挪威首相斯特勒2026年6月19日校园AI管控方案新闻发布会:6-13岁原则上禁用,14-16岁教师监督下谨慎使用,17-19岁规范应用课程。据央视新闻/新华社报道。

[6] OECD 2022 PISA测评:挪威15岁学生阅读成绩较2018年下跌约23分,数学跌至历史最低;Abrahamsson (2024) NHH讨论稿 Smartphone Bans, Student Outcomes and Mental Health:校园手机禁令后女生成绩回升、心理症状相关就医据报告大幅下降。

[7] 教育部基础教育教学指导委员会《中小学生成式人工智能使用指南(2025年版)》:"中小学校要避免采取'一刀切'的简单化管理模式";分学段设规范(小学禁独自使用开放式生成,初中适度探索,高中探究性学习)。

[8] 教育部教师队伍建设专家指导委员会《教师生成式人工智能应用指引》,2025年11月;世界数字教育大会《人工智能教育伦理:参考框架》,2026年5月:"禁止准入、有限使用、鼓励使用"三分法。

[9] EU AI Act 四级风险金字塔:不可接受风险(8类禁)、高风险(合规即可)、有限风险(透明义务)、最小风险(无义务);违规罚款3500万欧元或全球营收7%。

[10] 《人工智能安全治理框架》2.0版:安全风险分级原则; 《智能助手类智能体安全分级规范与建设指南》:L1-L5五级;广州AI沙盒监管试点(首违不罚、轻微免罚)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

周三、四陪上司睡,周五上海睡丈夫,朱某真面目被老公揭开:下流

江山挥笔
2026-09-06 15:51:56
比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

念洲
2026-09-07 07:01:20
0-0!中国女足U20发挥低迷,2次空门不进,对方门将“身材肥胖”

0-0!中国女足U20发挥低迷,2次空门不进,对方门将“身材肥胖”

汪星人哟
2026-09-07 21:47:34
细节曝光!江西低保女生赴港追星,返程后全家2000元补助被清零,女方家庭情况曝光后全网吵翻

细节曝光!江西低保女生赴港追星,返程后全家2000元补助被清零,女方家庭情况曝光后全网吵翻

李晚书
2026-09-07 07:40:43
极右翼德国选择党选举胜利,默茨回应:深感震惊,没想到会这样,德国需要根本性改革

极右翼德国选择党选举胜利,默茨回应:深感震惊,没想到会这样,德国需要根本性改革

环球网资讯
2026-09-07 21:24:44
“高速公路收费期限届满后由政府统一管理,可收取车辆通行费”

“高速公路收费期限届满后由政府统一管理,可收取车辆通行费”

观察者网
2026-09-07 18:03:38
给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

给胖东来供货十七年的牟强说,这里一边是天堂,一边是地狱。天堂是账期短,货款七天左右就能到账,地狱则是...

背包旅行
2026-09-07 18:50:04
蔡澜说,刘銮雄追女明星,都是先送3000万,这样90%港姐可以拿下

蔡澜说,刘銮雄追女明星,都是先送3000万,这样90%港姐可以拿下

晓銊就是我
2026-09-07 12:39:23
湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

回旋镖
2026-09-07 12:45:44
破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

面包夹知识
2026-09-07 18:24:48
中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

回京历史梦
2026-09-07 17:48:31
郭德纲歪曲篡改抗战歌曲《弹起我心爱的土琵琶》,官方发布处理通报

郭德纲歪曲篡改抗战歌曲《弹起我心爱的土琵琶》,官方发布处理通报

观察者网
2026-09-07 18:03:38
心理学发现个特别惊人的现象:现在离了婚的女人抢得最凶的,不是小鲜肉,也不是四十岁的成熟男人,而是退休金拿得高的老男人

心理学发现个特别惊人的现象:现在离了婚的女人抢得最凶的,不是小鲜肉,也不是四十岁的成熟男人,而是退休金拿得高的老男人

心理观察局
2026-09-07 06:12:09
这条无耻新闻,终于引起公愤了!

这条无耻新闻,终于引起公愤了!

胖胖说他不胖
2026-09-07 11:50:18
华为时隔六年再次发布高性能芯片

华为时隔六年再次发布高性能芯片

新华社
2026-09-07 15:08:32
中科院:江浙沪血液有害物质浓度爆表!

中科院:江浙沪血液有害物质浓度爆表!

生命科学前沿
2024-03-27 17:38:51
百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

上观新闻
2026-09-07 20:17:01
大瓜?网传梁宏达也移民了,将在9月15日顺利离境

大瓜?网传梁宏达也移民了,将在9月15日顺利离境

小徐讲八卦
2026-09-06 13:06:15
昔日巴萨“子弹”退役:86场20球 曾上演帽子戏法 梅西3助攻

昔日巴萨“子弹”退役:86场20球 曾上演帽子戏法 梅西3助攻

叶青足球世界
2026-09-07 15:12:40
女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

女性长期使用情趣用品,身体可能出现哪些不适?不少人缺乏认知

看世界的人
2026-08-07 09:22:50
2026-09-08 00:03:00
大脸猫与孙老师的花间茶舍 incentive-icons
大脸猫与孙老师的花间茶舍
欢迎进来饮一杯清茶,品一篇文章嚼两个故事。谈社会热点、读教育百态,品教研日常、学技术。+
82文章数 2关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

艺术
本地
亲子
手机
公开课

艺术要闻

Denisenko Olga:俄罗斯当代女画家

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

亲子要闻

低精力的妈妈,务必主动戒掉这个习惯

手机要闻

10999 小米18 Fold发布,新形态中折叠 首发玄戒O3

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版