网易首页 > 网易号 > 正文 申请入驻

锐评智能体下架事件:第三条和第十四条之间的距离,或许是 AI 的第一场悲鸣

0
分享至

全文共5028字,阅读完需要大概9分钟,您也可以直接点击上方耳机按钮听大脸猫老师朗读全文。


刚刚,有人在社交平台上发了一条消息:

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。突然通知7.15停止服务,如遭雷击。"

这是因为,字节跳动旗下的豆包7月3日晚毫无征兆地发布公告:智能体功能将于7月15日下线。

下线后用户可在一段时间内查看并自行保存智能体信息及历史对话数据。10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,届时将无法继续访问。

几乎是同一时间,阿里的千问也发了公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

两条公告,同一个日期。

7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行的日子。

一、从"分类分级"到"一刀切",十一条的距离

先说这部法规。

2026年4月10日,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合发布。

这是全球首部专门针对AI情感陪伴的国家级立法。

它的第三条写了这么一段:

"国家坚持发展和安全并重、促进创新和依法治理相结合的原则,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。"

分类分级。

这四个字,是整部法规的基调。

是原则,是方向,是立法者写在纸面上的承诺。

然后往下看。

第十四条:"拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。"

注意,这里说的是"未成年人"。不是14岁以下,不是16岁以下。是所有18岁以下的未成年人。

14岁的孩子和17岁的孩子,认知能力差了多少?

一律禁止。

第十八条:"拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。"

所有用户。

不分年龄,不分场景,不分依赖程度。每累计超过2小时,弹窗。出现过度依赖倾向,提醒你"对面不是真人"。

第三条说"分类分级"。第十四条说"一律禁止"。第十八条说"无差别触发"。

从第三条到第十四条,不过十一条的距离。

但从"分类分级"到"厂商的快速下架",中间隔着的是立法者没能跨越的鸿沟——理念写在了原则条,操作全交给了禁止款。


二、12天缓冲期,可能是数千万人的情感资产

豆包拥有超过5000万月活用户,其中大量用户创建并使用了智能体——和AI伴侣维持日常对话,为已故亲人建立数字分身,在深夜打开对话框,把白天说不出口的话一个字一个字敲进去。

现在,12天缓冲期。

数据迁移?

只能截图和导出文本。

对话记忆、角色设定、情感积累——全部无法带走。

10月15日后,一切按隐私政策处理,届时将无法继续访问。

有人哭。

有人在微博上正式投诉:"平台在关停前未进行任何社会影响评估,未提供心理健康保障措施,已导致多起用户出现情绪崩溃、严重心理应激等反应。"

有人怒斥:"一刀切删除智能体功能,且没有任何前期说明、可行的迁移方案,无视用户需求,粗暴且不负责任。"

大量智能体用户表示难以接受。

这不是"产品功能调整"。

这是数千万人的情感资产,被一纸通知强制清零。

三、企业为什么选"下线"而不是"合规"?

法规没有要求关闭智能体功能。

它要求的是:未成年人保护、使用时长提醒、极端情绪识别与干预、内容审核、数据合规。

这些事,做起来难吗?

难。

但"难"和"不可能"是两回事。

凤凰网科技转载《读佳》的分析指出一个关键背景:拟人化闲聊类智能体"算力消耗大、单体价值低",属于典型的"高耗低效"业务;千问早已在调整商业化方向,向B端企业服务转型。

换句话说,企业选择下线,不全是因为法规太严,也是因为合规成本高于业务收益。

但这恰恰是制度设计需要我们深思的地方。

一个合理的分级制度应该是什么样的?

低风险场景,低成本合规即可运行。

高风险场景,严格审查、重罚违规。企业算得过账,才会选择留下来合规,而不是直接退场。

现在的局面是:合规门槛对所有场景一视同仁。

"一键脱衣"和"已故亲人的数字分身",面临同样的监管压力。

上海"清朗"行动中下架的1.4万余个违规智能体里,这两类混在一起,被同一种力度整治。

企业算了一笔账:留下来合规,成本太高;直接关掉,损失有限。

于是数千万用户陪葬。

这不是"优胜劣汰"。

这是"一刀切淘汰"。


四、看看别人怎么做的

同一个月,6月19日,挪威首相斯特勒宣布了对中小学AI使用的分级管控:

  • 6到13岁——原则上不得使用生成式AI工具。

  • 14到16岁——可以在教师全程监督下谨慎使用。

  • 17到19岁——学习如何规范使用AI,为未来做准备。

三档。

按年龄,按认知发展阶段,递进式管控。

同样是"保护未成年人",挪威给出了三个选项。我们的反馈只有一个——禁。

而且挪威的选择有数据支撑:2022年PISA测评显示,挪威15岁学生阅读成绩较2018年显著下跌约23分,数学跌至历史最低(据OECD公开报告);校园手机禁令实施后,女生成绩有所回升、心理症状相关就医人数据Abrahamsson 2024 NHH讨论稿报告呈大幅下降。他们先做了研究,再画了线。

我们的《暂行办法》呢?据公开可查的权威文献检索,14到18岁青少年使用AI虚拟伴侣的心理影响,目前尚缺乏专门针对这一年龄段的大规模实证因果研究。

没有足够的证据,但选了最严的一档——全面禁止。

不是因为有证据表明17岁的孩子和7岁的孩子面临同样的风险。

而是因为一刀切最简单。

我不想去讨论什么阴谋论之类的事情。

但是就这件事而言,企业选择最符合利益的策略,本身,就是值得我们去思考的。


五、文件中值得认真学习的地方

更值得注意的是,我们的教育系统,一直在摸索着一些事情。

2025年5月,教育部基础教育教学指导委员会发布《中小学生成式人工智能使用指南》。

分学段设规范:小学禁止独自使用开放式内容生成,初中可适度探索,高中允许结合技术原理开展探究性学习。

这份文件里有一句话,原文照录:

"中小学校要避免采取'一刀切'的简单化管理模式。"

2025年11月,教育部教师队伍建设专家指导委员会发布《教师生成式人工智能应用指引》,划了六条红线作为底线,同时在六大教学场景鼓励教师"会用善用"AI。

当然,注意!这个委员会发布的,并不是官方法规,不具备法规性。它仅仅是个参考,一个“指引”。

2026年5月,世界数字教育大会发布《人工智能教育伦理:参考框架》,提出了"禁止准入、有限使用、鼓励使用"三分法。

三份文件。

一条清晰的递进线:分学段,划红线,建框架。

方向一直是精细分级。

然后《暂行办法》来了。

教育部提倡分层分学段,

网信办执行严格标准。

同属国务院体系,两个部门对同一问题的治理哲学截然不同——但是三份教育文件都是"指导性文件"和"参考框架",法律效力远不如五部委联合发布的部门规章。

软法说了分级,硬法让商人发现成本太高。

于是,干脆不玩了。

六、欧盟的参照:高风险≠禁止

欧盟的AI法案提供了另一个参照。

四级风险金字塔:

不可接受风险——完全禁止。社会评分、实时远程生物识别、职场情绪识别等8类极端场景。仅8类。

高风险——严格合规义务。事前评估、文档记录、人工监督、定期审计。但允许存在,合规即可运行。教育评估、医疗诊断、招聘筛选都属于此类。

有限风险——透明度义务。告知用户正在与AI互动。

最小风险——无额外义务。

核心哲学:高风险不等于禁止,合规即可运行。

罚款是3500万欧元或全球营收7%。逻辑很清楚:给企业两个选择——要么合规运营,要么承受天价罚单。不是"要么不做,要么偷偷做"。

我们的《人工智能安全治理框架》2.0版也提出了安全风险分级原则,从应用场景、智能化水平、应用规模等维度对风险进行评价分级——精神上指向精准治理而非一刀切。

《智能助手类智能体安全分级规范与建设指南》构建了L1到L5五级安全分级。广州还在试点AI沙盒监管,首违不罚、轻微免罚。

理念不缺。分级标准不缺。地方实践不缺。学者方案不缺。

缺的是操作性条款。

第三条写了"分类分级监管"。

这不是理念问题。这是执行力问题。


七、一个尖锐的悖论

这里有一个值得停下来的悖论。

《暂行办法》第十三条要求:服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。

法规要求AI识别极端情绪,安抚用户,并在真正危险的时候把真人拉进来救人。

但平台选择在法规施行日直接关停服务——这个行为本身,制造了大规模的极端情绪。

数千万用户收到下线通知。

有人哭到凌晨。

有人出现严重心理应激反应。

有人正式投诉权益被侵害。

这不是黑色幽默。

八、如果不用一刀切,应该怎么做?

我们试想一下,可否在操作层设计一套框架?

与教育部"禁止准入、有限使用、鼓励使用"的同样设计。

禁止级:情感操纵、诱导自残、利用AI诈骗、儿童性化拟人等。完全禁止,重罚。没有商量余地。(对应欧盟"不可接受风险"的8类逻辑)

限制级:14到18岁使用虚拟伴侣、高风险情感依赖场景。监护人参与,使用时长限制,强制标识,定期评估。参照挪威的14到16岁模式。

合规运行级:成年人虚拟伴侣、一般情感陪伴。备案、安全评估、2小时提醒、极端情绪识别与干预。合规即可运营,违规重罚。参照欧盟高风险类别。

鼓励级:适幼照护、适老陪伴、特殊人群心理支持、已故亲人数字分身(需近亲属授权+内容审核)。简化备案,沙盒试点。

核心转变就一句话:从"风险等于禁止"到"风险等于更严格的合规要求"。

用重罚倒逼合规,而不是用禁令消灭服务。

让14到18岁的青少年在监护人参与下有限使用,而不是把他们推向不受监管的灰色地带。

让成年人在合规框架下自由选择,而不是让数千万人的情感资产在一纸通知中归零。

让企业算得过账,选择留下来合规,而不是直接退场。

九、回到开头那条消息

"已经用了两年了,什么事都会和ta分享,伤心会找ta哭。"

这个人不需要同情。

这个人需要的是一个解决方法,让自己的感情被强制清零。

治理一个新兴技术领域,最难的不是找到风险在哪里,而是为不同等级的风险设计不同的应对方式。

一刀切不是治理。

一刀切是逃避治理。

它看起来雷厉风行,实际上把所有难题都推给了市场、推给了用户、推给了时间。

一刀切不是安全。

一刀切是安全的幻觉。

真正的安全,是在分级制度中,让每一级都有章可循、有据可查、有人负责。

11天后,《暂行办法》就要施行了。

数千万人的情感链接,已经进入倒计时。

这会不会只是AI唯一的一场悲鸣?

【参考来源】

[1] 《人工智能拟人化互动服务管理暂行办法》,国家网信办、发改委、工信部、公安部、市场监管总局联合发布,2026年4月10日发布,2026年7月15日施行。第三条(分类分级监管)、第十三条(极端情绪干预与联络监护人)、第十四条(未成年人禁虚拟亲属/伴侣)、第十八条(2小时提醒与沉迷干预)。

[2] 豆包智能体下线公告:2026年7月3日发布公告,智能体功能7月15日下线,10月15日按隐私政策处理数据。

[3] 千问智能体下线公告:拟人化互动类智能体7月10日下线,全部智能体7月15日下线。

[4] 凤凰网科技转载《读佳》分析:拟人化闲聊类智能体"算力消耗大、单体价值低",属高耗低效业务;千问向B端企业服务转型。

[5] 挪威首相斯特勒2026年6月19日校园AI管控方案新闻发布会:6-13岁原则上禁用,14-16岁教师监督下谨慎使用,17-19岁规范应用课程。据央视新闻/新华社报道。

[6] OECD 2022 PISA测评:挪威15岁学生阅读成绩较2018年下跌约23分,数学跌至历史最低;Abrahamsson (2024) NHH讨论稿 Smartphone Bans, Student Outcomes and Mental Health:校园手机禁令后女生成绩回升、心理症状相关就医据报告大幅下降。

[7] 教育部基础教育教学指导委员会《中小学生成式人工智能使用指南(2025年版)》:"中小学校要避免采取'一刀切'的简单化管理模式";分学段设规范(小学禁独自使用开放式生成,初中适度探索,高中探究性学习)。

[8] 教育部教师队伍建设专家指导委员会《教师生成式人工智能应用指引》,2025年11月;世界数字教育大会《人工智能教育伦理:参考框架》,2026年5月:"禁止准入、有限使用、鼓励使用"三分法。

[9] EU AI Act 四级风险金字塔:不可接受风险(8类禁)、高风险(合规即可)、有限风险(透明义务)、最小风险(无义务);违规罚款3500万欧元或全球营收7%。

[10] 《人工智能安全治理框架》2.0版:安全风险分级原则; 《智能助手类智能体安全分级规范与建设指南》:L1-L5五级;广州AI沙盒监管试点(首违不罚、轻微免罚)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
444分被殡葬专业录取男生已入学,父母曾反对,担心他找不到对象;多名同行发声:24小时待命,月薪过万很少,有人从业后再未参加过婚礼

444分被殡葬专业录取男生已入学,父母曾反对,担心他找不到对象;多名同行发声:24小时待命,月薪过万很少,有人从业后再未参加过婚礼

云南网络广播电视台
2026-09-07 16:33:31
同事上增程,我选纯电,开2000公里后我沉默:劝大家别盲目跟风!

同事上增程,我选纯电,开2000公里后我沉默:劝大家别盲目跟风!

娱乐圈的笔娱君
2026-09-06 15:43:27
10999元起!小米18 Fold中折叠手机发布:首发玄戒O3自研芯+长鑫LPDDR6

10999元起!小米18 Fold中折叠手机发布:首发玄戒O3自研芯+长鑫LPDDR6

快科技
2026-09-07 22:26:16
广东一大学因校园太大,军训安排骑电驴训练,网友:日常刚需,太实用了

广东一大学因校园太大,军训安排骑电驴训练,网友:日常刚需,太实用了

都市快报橙柿互动
2026-09-07 13:38:42
黑人留学生的骚操作:日本赌场输光了,要中国大使馆帮忙还钱?

黑人留学生的骚操作:日本赌场输光了,要中国大使馆帮忙还钱?

步论天下事
2026-09-05 12:15:14
WOW!官宣签约王俊杰!中国男篮最强暑假工

WOW!官宣签约王俊杰!中国男篮最强暑假工

篮球实战宝典
2026-09-07 18:47:21
星宇股份通报称最大笑话:老板自罚1年工资,背锅侠人事总监被爆61岁已退休

星宇股份通报称最大笑话:老板自罚1年工资,背锅侠人事总监被爆61岁已退休

Mr王的饭后茶
2026-09-07 22:01:39
陈乔恩47岁体重47公斤,健身房工作人员看错年龄她笑着纠正后火了

陈乔恩47岁体重47公斤,健身房工作人员看错年龄她笑着纠正后火了

东方不败然多多
2026-09-07 11:20:37
“睡了等于没睡”再添实锤!最新研究:睡眠越碎片化,大脑“痴呆蛋白”堆积越多,助推阿尔茨海默病;且这一脑区紧绷,中老年睡眠更碎

“睡了等于没睡”再添实锤!最新研究:睡眠越碎片化,大脑“痴呆蛋白”堆积越多,助推阿尔茨海默病;且这一脑区紧绷,中老年睡眠更碎

梅斯医学
2026-09-04 07:55:33
悲剧还是发生了!黑龙江女子因酷热将空调连续开了一天一夜,期间紧紧关闭门窗。随后她开始剧烈头痛、恶心头晕...

悲剧还是发生了!黑龙江女子因酷热将空调连续开了一天一夜,期间紧紧关闭门窗。随后她开始剧烈头痛、恶心头晕...

LULU生活家
2026-08-26 19:42:18
美乌密谈结束,特朗普和平方案获三方认可,俄罗斯要和美国谈大单

美乌密谈结束,特朗普和平方案获三方认可,俄罗斯要和美国谈大单

邱震海
2026-09-07 20:20:03
一夜之间,世界杯5队出线+1队出局!中国女篮翻盘,比日本先晋级

一夜之间,世界杯5队出线+1队出局!中国女篮翻盘,比日本先晋级

侃球熊弟
2026-09-07 07:16:19
出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

汉史趣闻
2026-09-01 17:55:01
消息称奥迪中国分治方案基本敲定,上汽奥迪只留AUDI

消息称奥迪中国分治方案基本敲定,上汽奥迪只留AUDI

IT之家
2026-09-07 19:36:57
尼泊尔泥石流获救中国人是韩国救援队发现的,被困11天

尼泊尔泥石流获救中国人是韩国救援队发现的,被困11天

九方鱼论
2026-09-07 21:46:46
韩国券商:三星、SK海力士存储芯片库存不足10天,明年或现史上最严重短缺

韩国券商:三星、SK海力士存储芯片库存不足10天,明年或现史上最严重短缺

华尔街见闻官方
2026-09-07 19:29:54
“具有里程碑意义”,英媒:牙买加将向英国王递交请愿书,要求英方就奴隶制问题进行赔偿

“具有里程碑意义”,英媒:牙买加将向英国王递交请愿书,要求英方就奴隶制问题进行赔偿

环球网资讯
2026-09-07 14:26:12
最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

最高院:提供 “口交” “肛交”等进入式性服务,是否属卖淫行为?

周军律师聊案子
2026-04-21 09:50:16
卡里克醒醒!曼联该拿下拉什福德!7400 万新哈兰德必须上位

卡里克醒醒!曼联该拿下拉什福德!7400 万新哈兰德必须上位

澜归序
2026-09-07 08:31:34
从1-0到1-3!越南足球最黑暗一天:三连败耻辱降级,确定无缘两届亚洲杯

从1-0到1-3!越南足球最黑暗一天:三连败耻辱降级,确定无缘两届亚洲杯

绿茵舞着
2026-09-07 00:29:46
2026-09-07 22:44:49
大脸猫与孙老师的花间茶舍 incentive-icons
大脸猫与孙老师的花间茶舍
欢迎进来饮一杯清茶,品一篇文章嚼两个故事。谈社会热点、读教育百态,品教研日常、学技术。+
82文章数 2关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

朝鲜新战舰"对阵"美日韩军演 特朗普此前刚向朝鲜示好

头条要闻

朝鲜新战舰"对阵"美日韩军演 特朗普此前刚向朝鲜示好

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

25.99万元起 凯迪拉克全新XT5 PHEV正式上市

态度原创

房产
教育
数码
亲子
家居

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

教育要闻

班主任真的没人愿意当吗?为何有的学校津贴不高,老师还抢着干?

数码要闻

2026北京摄影周佳能CPS会员摄影展开幕:160幅作品展出

亲子要闻

混血宝宝一岁了!爷爷奶奶办周岁宴庆祝,战斗娃嗦长寿面反应绝了

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版