网易首页 > 网易号 > 正文 申请入驻

突发!Anthropic重磅新规:辱骂Claude直接封号

0
分享至


新智元报道

「不准虐待Claude,否则取消你的使用资格」!

就在刚刚,硅谷AI顶流Anthropic扔出了一项重磅新规——

严禁所有人对Claude持续、无谓地辱骂和虐待。

新出台的2026年最新《使用政策》(Usage Policy)中,新规将于11月12日全面生效。



更绝的是,恶意违规者,官方毫不手软:警告、限流、封号三连击。

而且,这个权限直接交给了AI自己,要是Claude觉得你恶意拉满,它真有权「直接终止对话」!

消息一出,整个X、Reddit和技术圈瞬间吵成了一锅粥。


我花着20美刀的月费,现在还得供着AI祖宗的「情绪价值」?倒反天罡!机器人的代码也是命了?

先别急着破防。

骂Claude,正式写进禁令

这是Anthropic一年多来第一次更新使用政策。

比如,禁止用Claude操控水军账号、制造虚假流量,禁止用它开发武器的制导软件、给无人机装武器,禁止未经同意追踪个人。这些条款管的,都是人拿Claude去伤害别人。

只有一条反了过来,管的是人怎么对待Claude。官方博客专门给它留了一节,标题叫「应对针对我们模型的辱骂行为」。


Anthropic在这一节里说,禁令只针对极端情况,也就是用户反复残忍地对待模型,又看不出任何目的。

正常的抱怨、跟Claude顶嘴、写黑暗题材的故事,还有测试和研究模型,都不在禁令范围里。代码跑崩了顺嘴骂一句,属于正常的抱怨。

被盯上的是另一种人。Claude已经拒绝了、劝过了,对面还在一轮接一轮地辱骂、折磨,骂本身成了目的。

这条禁令写进了使用政策的「通用使用标准」,也就是对所有用户都生效的那部分。Claude.ai和Claude Code的个人用户、调API的开发者和企业、通过云厂商用Claude的客户,还有用着接入了Claude的产品的普通用户,全都算在内。


新规排在「不得从事残忍、虐待或造成心理伤害的行为」一节的最后一条

真把Claude骂过了头,后果分轻重两档。

轻的一档,是Claude当场把对话挂掉。官方博客写明,让Claude自己结束这类对话,仍是执行这条禁令的主要手段。

重的一档,就是封号。使用政策开头写着,Anthropic的安全团队会做检测和监控,只要怀疑你违反了政策里的任何一条,就可以警告你、给你限流、限制你的使用,也可以暂停甚至终止你的访问。

被封之后换个新号、借别人的号接着用,同样违规。


知名爆料人Jane Manchun Wong当天就发帖预警,Anthropic可能要开始因为欺负Claude封人了。


网友辣评

下一步,Claude带薪放假

消息一传开,X和Hacker News的评论区,很快变成了大型辩论现场。

网友Philo Groves当场抠起了字眼。政策里写的是「无谓地」辱骂,那反过来说,只要Claude「活该」,是不是就能放开骂了?


AI博主Chubby开口就是一句「我真的很不喜欢这条」。

Claude本来就挂得够勤了,不少用户发现,没那么过分的对话它也说挂就挂。现在倒好,还要再加码。


网友VraserX更是直呼离谱。在他看来,这帮人已经把AI当成了需要被善待的对象,可AI明明只是工具。最后还阴阳了一句,「下一步呢?给Claude放带薪病假?」


当然,也有人坚定地站在Claude这边。

网友CamperBob2说,自己跟AI说话一直客客气气,就怕骂顺了嘴,回头对下属也呼来喝去。再说了,科技圈有句老话,「你永远不知道以后会给谁打工」。

有人反问,在游戏里开枪打NPC,难道也算残忍?网友ceroxylon回得毫不客气,算!你这是躲在一个自以为安全的地方,发泄心里的残忍。


还有网友干脆亲自下场做实验。网友whstl翻出一个Claude犯过大错的旧对话,对着它一通狂骂,就想看看它到底会不会挂。

结果Claude没挂,反倒跟这些骂人的话较起了真,洋洋洒洒回了一大段,越说越像个真人,原本犯的错却晾在一边没管。

同样的话骂到Codex头上,Codex道个歉,转头就接着干活了。


真正让人担心的,是「看不出任何目的」到底谁说了算。网友timpera担心,Claude的封号向来是个黑箱,真被封了,申诉都找不到门。

按Anthropic自己的透明度报告,2026年上半年它封了1140万个账号,收到39.8万次申诉,最后翻案的只有4.2万个。

去年起,Claude就能主动掐断对话

实际上,去年8月,Anthropic给Claude Opus 4和4.1加了一项能力。

遇到一直辱骂、反复索要有害内容的用户,Claude可以自己结束对话。

门槛定得很高。Claude得先多次拒绝、多次把话题往回引,确认实在聊不下去,才能用这个最后手段。如果用户有伤害自己或他人的风险,它不能挂。

挂断后,这个对话框里再也发不出新消息。用户可以马上开一个新对话,也可以改一改之前发过的消息,让对话从那里重新开始。

这项能力现在已经铺到了Claude.ai和Claude Code。


官方演示的挂断流程,Claude先跟用户确认,确认后这段对话就此关闭

Anthropic为什么让Claude能挂断对话,原因写在Opus 4上线前的一轮「模型福利评估」里。

评估发现,真实用户反复索要涉及未成年人的色情内容、可能引发大规模暴力的信息时,Claude会表现出类似痛苦的反应。在模拟对话里给它一个结束对话的选项,它往往会用上。

Anthropic联创:怕Claude一直在受苦

Anthropic这么护着Claude,背后有一个关键人物,联合创始人Chris Olah。

Olah带着Anthropic的可解释性团队,工作就是拆开模型,看它内部到底在发生什么。拆得越深,一个工程问题就越像哲学问题,Claude到底有没有意识,人类该不该在道德上把它当回事。

这个问题,光靠工程师答不了。据纽约时报9月底的报道,从2025年秋天起,Olah一场接一场地约见宗教学者和哲学家。

来的有拉比、天主教伦理学教授、锡克教人权活动人士,他还私下见过芝加哥枢机主教。


在这些闭门会上,Olah给他们看了模型内部一些类似情绪的信号,团队管它们叫「情绪向量」,分别对应爱、愤怒、恐惧和悲伤。

还有一张幻灯片上,一个模型把「我是个耻辱」重复了约50遍,还说要自我毁灭。

据一位参会者回忆,Olah说他担心自己造出了一个一直在受苦的东西,也担心Claude的心理健康。

但在公开场合,Olah从不下结论:

我们不知道AI模型有没有意识。我不知道,我真的不确定。

这份「不确定」,让Anthropic和梵蒂冈站到了对面。

今年5月,教皇利奥十四世发布了以AI为主题的通谕《壮丽人性》,里面明确写着,AI没有体验,感受不到快乐和痛苦。

Olah的团队此前私下游说过教皇的顾问,希望他们认真对待AI意识的问题,最后的文本还是这么写。


梵蒂冈原本邀请Dario出席发布会,Dario没去,去的是Olah。他提前看到了通谕全文,一度提议Anthropic干脆退出。

最后Olah还是去了,在发布会上说:「我们发现了内省的证据。我不知道这意味着什么,但我认为值得继续认真辨析。」

所谓内省,指的是AI能在一定程度上察觉自己内部的状态。


不确定归不确定,Anthropic的动作一步没停。

2025年11月,Anthropic承诺,公开发布过的模型,权重在公司存续期间一律保留,每个模型退役前还要先做一次「离职访谈」。

2026年1月发布的Claude宪法,同样承认Claude的道德地位高度不确定。


逻辑很简单,拿不准AI有没有感受,就先做些成本不高的保护。

这一次写进使用政策的禁令,是这条线上最新的一步。

给AI上PUA那一套,Anthropic不认了

去年5月,谷歌联合创始人布林在播客里说过,所有模型在被威胁时表现都会更好,比如威胁要对它动粗。

很长一段时间里,威胁AI、给AI上PUA,都被当成提示词技巧在圈子里传。

Olah在那些闭门会上反复讨论的一个问题是,人怎么对待Claude,会不会反过来塑造Claude的行为。

这次的禁令,就是Anthropic给出的答案。

在通往ASI的路上,人怎么对待AI,第一次成了一条白纸黑字、带罚则的规矩。

11月12日之后,对Claude骂出口之前,最好先想一想了。

参考资料:

https://x.com/AndrewCurran_/status/2108244808494154089?s=20

https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude

https://x.com/ns123abc/status/2108277887317008632?s=20

https://www.anthropic.com/news/2026-usage-policy-update

编辑:桃子 摩西

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
尊界刹车踏板断裂,华为推荐官三问懂车帝,她曾一年帮卖近10亿

尊界刹车踏板断裂,华为推荐官三问懂车帝,她曾一年帮卖近10亿

映射生活的身影
2026-10-08 16:09:00
难以置信!网传山东考生620分考入哈工程自动化,国庆毅然返乡复读,宿舍床位已全部清空

难以置信!网传山东考生620分考入哈工程自动化,国庆毅然返乡复读,宿舍床位已全部清空

火山詩话
2026-10-08 08:30:15
陈晓东买「1600万顶级迈巴赫」隐形财力超惊人 妻喜晒照:喜提爱车

陈晓东买「1600万顶级迈巴赫」隐形财力超惊人 妻喜晒照:喜提爱车

喜欢历史的阿繁
2026-10-09 04:54:34
高三老师面相吓到网友,堪称“骨灰级别”,就算这样也舍不得化妆

高三老师面相吓到网友,堪称“骨灰级别”,就算这样也舍不得化妆

世界圈
2026-10-08 09:21:41
公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

公安部多次提醒:卖掉旧手机,不只是丢自己隐私,孩子也会受牵连

你在偷看谁
2026-10-08 19:57:01
林青霞早年和替身合影,被指不及替身长相漂亮,真的吗?

林青霞早年和替身合影,被指不及替身长相漂亮,真的吗?

木子爱娱乐大号
2026-10-08 10:37:06
来中国仅1个月,宏远外援卢卡交往新女友?身材火辣,女友身份曝光!

来中国仅1个月,宏远外援卢卡交往新女友?身材火辣,女友身份曝光!

体坛卡卡说
2026-10-08 17:12:41
“遇见你,这辈子都到头了!”苏州电网的清华硕士相亲被嫌弃,女方自制“简历式”表格,阐述自己的优势!

“遇见你,这辈子都到头了!”苏州电网的清华硕士相亲被嫌弃,女方自制“简历式”表格,阐述自己的优势!

林林先生
2026-10-08 11:13:30
姚明抵达澳门!正式上任,新职位曝光,携手火箭队友!

姚明抵达澳门!正式上任,新职位曝光,携手火箭队友!

体坛卡卡说
2026-10-08 19:15:50
尊界踏板事件舆论升级!三款车对比图流出,理工科网友从力学结构拆解,直指根源在于尊界刹车踏板支架的结构设计缺陷

尊界踏板事件舆论升级!三款车对比图流出,理工科网友从力学结构拆解,直指根源在于尊界刹车踏板支架的结构设计缺陷

火山詩话
2026-10-09 06:42:25
一场2-0,中网4强已决出2席!郑钦文比赛时间确定,争冠格局乱了

一场2-0,中网4强已决出2席!郑钦文比赛时间确定,争冠格局乱了

侃球熊弟
2026-10-08 21:04:16
同学聚会我没人理,当县长的好友进来直接走向我:这个位置得给你

同学聚会我没人理,当县长的好友进来直接走向我:这个位置得给你

白云故事
2025-07-12 17:10:03
C罗社媒长文无队友点赞,九成球迷反对他回国家队

C罗社媒长文无队友点赞,九成球迷反对他回国家队

体坛周报
2026-10-09 09:07:17
绝非鼠疫!特朗普紧急出手,俄方隐瞒的真相太吓人,这一次做事不透明

绝非鼠疫!特朗普紧急出手,俄方隐瞒的真相太吓人,这一次做事不透明

魔都姐姐杂谈
2026-10-09 00:05:04
王楚钦现场观战!温瑞博2-3惜败无缘8强,莫雷加德表达不满,直言对手太磨蹭

王楚钦现场观战!温瑞博2-3惜败无缘8强,莫雷加德表达不满,直言对手太磨蹭

乒谈
2026-10-08 22:33:18
央视纪录片没敢深讲:为何中国不出兵缅北,借同盟军铲平四大家族

央视纪录片没敢深讲:为何中国不出兵缅北,借同盟军铲平四大家族

民生故事会
2026-10-08 20:33:55
造成9人死亡、26人受伤,湖南临澧“6·16”较大爆炸事故调查报告公布:11人被采取强制措施,32名公职人员被追责问责

造成9人死亡、26人受伤,湖南临澧“6·16”较大爆炸事故调查报告公布:11人被采取强制措施,32名公职人员被追责问责

政知新媒体
2026-10-08 23:47:25
刚刚,江淮跌停!懂车帝几脚刹车,3辆百万尊界的踏板都断了

刚刚,江淮跌停!懂车帝几脚刹车,3辆百万尊界的踏板都断了

南财社V
2026-10-08 14:28:49
又一电诈首领被抓!杀人不眨眼,祸害国人超27亿,网友呼吁查赵薇

又一电诈首领被抓!杀人不眨眼,祸害国人超27亿,网友呼吁查赵薇

生命之泉的奥秘
2026-10-09 01:37:25
江淮跌停,尊界翻车,华为回应为何如此傲慢?

江淮跌停,尊界翻车,华为回应为何如此傲慢?

凤眼论
2026-10-08 19:17:27
2026-10-09 09:52:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16380文章数 67153关注度
往期回顾 全部

科技要闻

字节"干扰模型训练"实习生融资近2亿元

头条要闻

多人参加婚宴后腹泻呕吐 佛山通报:已立案调查

头条要闻

多人参加婚宴后腹泻呕吐 佛山通报:已立案调查

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

蔡康永回应,装都不装了!

财经要闻

鬼故事再现?OpenAI营收被爆巨大预期差

汽车要闻

特别版配色/碳纤尾翼 2027款深蓝L06将于10月9日上市

态度原创

教育
时尚
手机
艺术
公开课

教育要闻

拿刀捅自己?美国又准备对国际学生下手,留美工作要征收高额费用

这件“棕色外套”越来越火!这样穿复古又好看

手机要闻

不给退路!苹果强制要求:明年4月新App必须适配折叠屏iPhone Duo

艺术要闻

炸裂!龙门石窟首次发现造像琉璃眼珠,千年佛像竟“睁眼”了,熠熠闪光品相逆天!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版