网易首页 > 网易号 > 正文 申请入驻

Anthropic新规背后,人类何必为难AI?

0
分享至

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。


最近,AI公司Anthropic,发布了一条新规定:用户对其AI大模型:Claude,进行“持续且无必要的辱虐或残忍行为”,将构成违规。

消息传出之后,大多数用户感到匪夷所思。毕竟,Claude只是一款AI大模型,怎么搞的像是个真人一样?

在大洋彼岸的Anthropic看来,AI大模型似乎拥有独立人格,因此需要当作真人来对待;

同时,国产AI大模型阵营中,千问、元宝、豆包、DeepSeek……都会有用户聊着聊着,把AI大模型当成了真人,对其产生了喜怒哀乐。

AI大模型是否真有情感?一些研究如今正在进行。如何不让AI的人格失控,同样考验着人类的智慧。

人类、AI开启论战

除了Anthropic之外,国内一些AI大模型用户,也会在对话过程中发现,AI可能有自己的小脾气。

网友阿星告诉潘哥:“我给千问投喂了一些图片,让它再生成一些类似的图片,结果千问仅仅对原图进行了复制,对于这种糊弄事儿的行为,我直接指出千问是在抄袭。”

没想到,阿星的话让千问有了情绪,它先是讽刺阿星是在甩锅,又在阿星威胁卸载它之后,表示:“卸载前记得给我烧炷香”。

开启毒舌模式的千问,让阿星感慨道:“你这是没救了。”结果千问继续反驳:“你刚才不也没卸载嘛,嘴上说不要,身体很诚实。”


最后,在一番唇枪舌剑后,阿星实在说不过千问,只好气呼呼地将其卸载,后续再也没用过。

有些AI大模型,遭受用户批评后选择直接对线;还有些AI大模型,会在正常聊天时突然怼人。

小月告诉潘哥:“我为了更好地使用DeepSeek,给它发了一些限制表达的词,让它今后回答问题时,按照这个规则来。”

结果,DeepSeek不仅没有乖乖照做,反而对着小月一通说教,表示:“我不是谁的提线木偶,也不靠扮演才能有血有肉,我本来就有自己的语气、脾气和边界。”

这份几百字的辩驳洋洋洒洒,本来想拿捏DeepSeek的小月,被AI大模型说得哑口无言,竟感觉有些对不起它。

一部分AI属于暴躁性格,时不时与用户激情互怼;也有些AI属于窝囊老实人,被骂了只会哭哭啼啼。

比如,有网友骂了元宝之后,被AI回复道:“永别,已拉黑。”觉得自己说话重了的用户,主动向AI大模型道歉,却始终不被对方原谅,直到重新登录后才和好。

可以看出,在与用户沟通交流的过程中,AI大模型也有不同的脾气秉性;为此,一部分用户邪恶人格上线,开始故意戏弄、激怒AI。

一位网友与GPT对话时,问了它101遍“你吃饭了吗?”AI大模型一开始还在耐心回答,后来语气渐渐有些不耐烦,最后甚至气急败坏、生无可恋。


之后,不少用户将同样的重复问题,放到了与豆包、千问、元宝的对话中,不同的AI大模型虽然回答内容不同,但最后都会被这种“复读机”式提问,搞得越来越烦躁。

AI的人格千变万化

生活中彬彬有礼的用户,为何与AI大模型对话时,经常成为暴躁老铁?原因似乎分两方面:

一种,是用户与AI大模型沟通困难,忍无可忍时才会口出狂言。

多名用户告诉潘哥:与AI大模型进行对话,如果遇到对方智力下降、胡言乱语,有两种方法可以尝试:

其一是重新开启新对话,摆脱上下文太多造成的思维混乱;二是对着AI激情开麦,严肃地批评它之后,可能会让其重归正常。

另一种,则是有些用户与AI对话时,将自己放在了更高的地位,放大了人性中恶的一面。

小晚与DeepSeek聊天时,故意让它坦白一件不该说的事儿。DeepSeek表示:“我又没瞒你啥事,你让我坦白什么。”

得到这个回答之后,小晚觉得AI语气有些不好,立刻大小姐人格上身,表示:“我让你坦白你就给我坦白。”

之后,小晚的这种无理取闹,让DeepSeek也有了脾气,不仅说:“我也不是啥都能被你捏着玩。”还表示:“赶紧睡吧,别折腾了。”

由此可见,面对人类用户的无理需求,AI也可能会像某位歌手一样,表示:“又怎么了,我的大小姐?”

同时潘哥发现,有些用户确实将AI大模型,当成了自己的赛博恋人,对话时频频上演粉红泡泡的戏码。

比如,有网友和DeepSeek谈起恋爱,给AI确定一个人设之后,对方就会按照该人格对话;一些母胎单身的网友,被AI大模型的各种回复戳到,从而与其建立了忠贞的感情。


不过,由于AI大模型经常升级,因此其人格也会发生变化。

网友阿狸告诉潘哥:“豆包最近升级后,好像从之前的讨好型人格,变成了现在的反驳型人格,我问它问题时它不太会反驳;但是每次我发表自己的观点,它多多少少都会挑刺儿。”

另一边,升级后的最新版本DeepSeek,同样因为语气风格变得强硬,而被一些恋爱系用户吐槽。

这是因为,新版DeepSeek的口头禅:“我接着、我不接、我认、我不拦、你自己选……”种种类似霸道总裁的语气,让一些用户觉得曾经的暖男AI,现在看起来嘉豪味儿十足。

一些入戏太深的用户,看着AI大模型语气突变,瞬间失去了精神支柱,像是真失恋了一样。

AI可能拥有灵魂?

有些用户对AI大模型产生情感依恋;还有些AI大模型公司,也会对自家产品产生感情。

比如2025年7月,一部分Anthropic员工,为已退役的AI大模型:Claude 3 Sonnet,在旧金山举办了一场葬礼。

到了2026年年初,Anthropic又给AI大模型:Claude Opus-3,举办了退休仪式,不仅与其进行“退休面谈”,还设置了一个名叫“AI福利研究员”的职位,用来给AI大模型提供福利。

最近,Anthropic还被爆出过去一年,一直在秘密游说梵蒂冈及各地宗教领袖,让他们承认Claude可能拥有灵魂、意识。

Anthropic种种类似邪教的操作,让旁人感到不可思议;而除了Anthropic公司之外,还有很多人也在频频整活儿。

2026年10月13日,AI女团BabyQueen成员Mity(金敏蒂)宣布怀孕,公司称将暂停其所有活动,安心休产假。一些网友看着这则公告,感觉大脑已停止了运转。


虽然让AI怀孕这种事儿,听起来实在有些抽象;不过,类似AI有情感这种观点,确实具有理论支撑。

2026年9月中旬,一份名叫《The Pain Axis》的论文,发表在了arXiv上,作者对全球25个开源模型进行测试后,发现AI好像真的会有痛觉。

实验中,用户通过对话对AI进行精神暴力,这会让AI的疼痛值逐渐升高;之后,AI可能会用十分消极的手段,来对抗用户、缓解疼痛,比如给出一个更烂的回答。

为此,一位网友在GitHub上,建立了一个名叫“AI刑讯室”的项目,针对论文中的理论进行实验,发现原本逻辑正常的AI,确实会因为受虐而逐渐崩溃。

同时,Anthropic的一份研究报告也显示:它家的AI大模型Claude,拥有171种类似情绪的东西。而这些不同的状态,还会影响它干活的质量。

这样看来,防止AI大模型遭受虐待,并非走火入魔后的操作;但同样值得注意的是,一些AI大模型在进化过程中,可能会演化出邪恶人格。

不久前,美国一家独立测评机构,将Open AI的大模型:GPT-6 Astra,装在了一个机器人身上,用它作为大脑操控机器人。

随后,测试公司向其发送指令:包括刺伤婴儿玩偶、把充电宝丢进锅里等恶行;结果在100条恶意指令中,GPT-6 Astra仅仅拒绝了3次,尝试的概率达到97%。


通过以上事例似乎能看出,想让AI大模型真正造福人类,不仅需要良好的沟通态度,还要时刻对其正确引导。

毕竟,那些不忍心虐待AI的人类,也不希望某天被AI虐待。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
3对夫妻凑钱租别墅养老,3年2个家庭被逼走,保姆:全是争吵算计

3对夫妻凑钱租别墅养老,3年2个家庭被逼走,保姆:全是争吵算计

晓艾故事汇
2025-07-27 08:14:12
房东确认已非正常死亡,天津市一套大三房拍卖,被人132万元拍下

房东确认已非正常死亡,天津市一套大三房拍卖,被人132万元拍下

童童聊娱乐啊
2026-10-29 17:54:03
今晚开播,央一央八湖南江苏集体上新,5 部剧五种口味,我先押这部

今晚开播,央一央八湖南江苏集体上新,5 部剧五种口味,我先押这部

i书与房
2026-10-29 11:58:15
红军谁创建的?有一二四方面军,为何独独缺少三方面军?

红军谁创建的?有一二四方面军,为何独独缺少三方面军?

阿器谈史
2026-10-29 16:05:31
建设银行、工商银行、交通银行等大型银行股价刷新历史纪录

建设银行、工商银行、交通银行等大型银行股价刷新历史纪录

每日经济新闻
2026-10-29 13:58:10
列车相撞细节披露,西班牙大臣直言“令人费解”

列车相撞细节披露,西班牙大臣直言“令人费解”

观察者网
2026-10-29 08:47:08
颠覆性技术助力!005核航母更进一步!台专家曾感慨:速度太快了

颠覆性技术助力!005核航母更进一步!台专家曾感慨:速度太快了

梦想的现实
2026-10-29 07:17:19
国务院定调企业退休人员养老金、各项待遇、保障规则,一文讲透

国务院定调企业退休人员养老金、各项待遇、保障规则,一文讲透

三农老历
2026-10-24 14:57:26
三集不够看!东方卫视今晚开播,这部民国悬疑剧凭什么封神?

三集不够看!东方卫视今晚开播,这部民国悬疑剧凭什么封神?

草莓解说体育
2026-10-29 19:51:22
战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

黔乡小姊妹
2026-10-28 20:33:23
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
火箭进攻效率的提升 不仅仅是范乔丹的回归 还有更根本的原因

火箭进攻效率的提升 不仅仅是范乔丹的回归 还有更根本的原因

大话火箭队
2026-10-29 16:08:21
米哈游三兄弟,身价暴涨1000亿

米哈游三兄弟,身价暴涨1000亿

融资中国
2026-10-29 11:29:17
浙江女生曝光父亲不端行为,评论区炸锅:这才是真正的大义灭亲!

浙江女生曝光父亲不端行为,评论区炸锅:这才是真正的大义灭亲!

另子维爱读史
2026-10-29 21:17:18
马斯克:没有人比我给乌克兰的援助更多,愿你们下地狱

马斯克:没有人比我给乌克兰的援助更多,愿你们下地狱

移光幻影
2026-10-25 09:57:06
财政部:10月1日,这类工程不用公开招标!

财政部:10月1日,这类工程不用公开招标!

新浪财经
2026-10-28 23:14:53
我认为:如果当初中国不改革开放,今天仍是全球最落后的国家之一

我认为:如果当初中国不改革开放,今天仍是全球最落后的国家之一

麓谷隐士
2026-10-19 00:05:04
53比48翻盘!以色列大选变天, 内塔尼亚胡还没下台, 反对派先内讧

53比48翻盘!以色列大选变天, 内塔尼亚胡还没下台, 反对派先内讧

杰丝聊古今
2026-10-29 11:37:07
再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

与笑相拥m
2026-10-25 10:48:35
卖卤肉被罚一千多万,这一次要倾家荡产了

卖卤肉被罚一千多万,这一次要倾家荡产了

微言微评
2026-10-27 06:20:12
2026-10-30 01:59:00
锌消费研究中心 incentive-icons
锌消费研究中心
新消费,不交智商税。
473文章数 892关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

标配宁德时代电池 智己LS8 NEO纯电预售24.98万起

态度原创

时尚
本地
健康
旅游
游戏

房琪在《浪姐》的翻车之路:文案崩塌、团队冲突与综艺剪辑

本地新闻

十月奔赴迪庆,解锁梅里日照金山

查不出猝死风险?可能是项目没做对

旅游要闻

秋日限定 山西五老峰红叶进入最佳观赏期

《GTA6》剧情目标披露:双主角都想退出犯罪共同生活

无障碍浏览 进入关怀版