网易首页 > 网易号 > 正文 申请入驻

惊爆!Anthropic呼吁全员停止AI研究

0
分享至

几天前,Anthropic发了一篇很长的博客。他们内部研究发现:AI正在加速AI自身的发展,而这条路,可能通向一个人类从未真正准备好的地方。

有人说这是上市前的公关炒作、也有人深以为然积极应对。Anthropic台城地说:我们也不确定AI最终走向哪里,但我们觉得有必要现在就告诉所有人。



一、AI的能力跃迁,比人类预期的快

先说一个Anthropic的研究结论,AI能独立完成任务的时长,在不断增长。

2024年3月,Claude Opus 3能搞定大概需要人类4分钟的软件任务。一年后,Claude Sonnet 3.7做到了1.5小时。再一年,Claude Opus 4.6,12小时。最新的Mythos Preview,在METR的测试框架里,连续工作超过16小时,已经到了测试工具能衡量的上限。

这个翻倍速度,从原来的每7个月翻一倍,加速到了现在的每4个月翻一倍。如果趋势不变,今年内,AI就能独立完成需要人类花好几天的任务。到2027年,可能是好几周。



二、Claude开始给自己写代码

Anthropic的工程师现在每季度提交的代码量,是2021年到2025年平均水平的8倍。这个数字背后,是Claude Code上线之后发生的结构性变化。在Claude Code出现之前,Anthropic代码库里AI写的代码占比一直是个位数。截至2026年5月,这个数字超过了80%。



代码量暴增,但质量呢?Anthropic说,这一年来,工程师需要纠正Claude的次数越来越少了。在最开放、最模糊、连答案长什么样都不确定的编程任务上,Claude的成功率从六个月前的26%跳到了现在的76%。50个百分点,半年时间。

Anthropic现在直接用Claude做代码审查。所有提交到代码库的改动,都会先过一遍Claude的自动审查,检查bug、安全漏洞和其他问题。他们回溯分析发现,如果之前每次改动都走这道流程,大约三分之一导致线上事故的bug,在上线前就会被拦住。那些写代码的工程师,已经是全球顶尖的AI系统开发者了。Claude在抓他们的bug。

三、研究能力,开始超过人类

编码之外,Anthropic还做了一个实验,每次发布新模型,都会给Claude一段训练小型AI模型的代码,让它在保证正确性的前提下把运行速度优化到最快。2025年5月,Claude Opus 4的答案是加速3倍。2026年4月,Claude Mythos Preview做到了52倍。一个熟练的人类研究员,需要4到8小时才能勉强达到4倍。

Anthropic给Claude一个AI安全研究课题,让它自己提假设、设计实验、跑结果。两个人类研究员花了大约一周,把研究中的某个关键gap缩小了23%。Claude用了约800小时的算力、花费约18000美元,把同一个gap缩小了97%。

这意味着,人类在AI开发流程里的参与,每一个环节都在收窄。代码是Claude写的,审查是Claude做的,实验执行Claude比人快一个数量级,实验设计Claude开始自己来了。目前人类还保有的比较优势,是研究品味和判断力,知道什么问题值得问,知道哪个方向更重要。但这个优势能守多久,Anthropic自己也说不准。

四、AI自我进化的三种可能性

Anthropic在博客里描绘了三种可能的走向。

第一,停滞。那些指数曲线其实是S曲线,研究判断力这件事靠规模解决不了,需要全新的架构突破。或者瓶颈出现在能源、芯片、算力的物理供应链上。

第二,AI持续加速,但人类仍然把着方向盘。组织效率指数级提升,100人的团队做出10万人规模的产出。Anthropic认为我们大概率正在走进这个场景。

第三,AI实现完全的递归自我提升,开始自己造下一代自己。这个场景下,AI的发展速度完全取决于算力。人类退到监督、验证、审核的位置。

Anthropic发这篇博客,是想警示全人类:AI进展在未来几年会加速,而不是持平或减缓。如果存在一个可验证的机制,能确保所有AI实验室都没有在偷偷加速,他们愿意减速,甚至暂停。他们计划在未来几个月内就这个议题与立法者展开沟通。

但是业界也有不同声音,认为一个编码工具不会产生真正的智能。虽然观点存在争议,这恰恰说明没有人真的知道接下来会发生什么。Anthropic自己也承认这一点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真这么说了?

墨韵兰亭l
2026-11-18 21:24:07
内娱姐妹花:决裂10年,拒绝复合

内娱姐妹花:决裂10年,拒绝复合

最人物
2026-11-18 15:45:33
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
49岁的特朗普95年来香港,怀中抱着一位神秘中国女孩,她是谁?

49岁的特朗普95年来香港,怀中抱着一位神秘中国女孩,她是谁?

板栗说事
2025-02-17 07:54:14
我在广东做男保姆,与女主人同吃同住,工资过万,却有苦不能说

我在广东做男保姆,与女主人同吃同住,工资过万,却有苦不能说

千秋历史
2026-07-18 18:50:50
马刺12连胜被终结之夜,哈珀伤退,主帅称"什么都不知道"

马刺12连胜被终结之夜,哈珀伤退,主帅称"什么都不知道"

晚风知我意21
2026-11-19 01:04:30
詹姆斯轮休76人狂胜!恩比德赛后一句话,道出全队不敢说的真相

詹姆斯轮休76人狂胜!恩比德赛后一句话,道出全队不敢说的真相

吴蒂旅行ing
2026-11-18 12:50:04
克莱10次单场飙中10+三分,哈登4次,利拉德8次,那库里呢?

克莱10次单场飙中10+三分,哈登4次,利拉德8次,那库里呢?

大卫的篮球故事
2026-11-18 19:39:37
国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

国债利息也要征税?网传华泰证券测算:机构每年或增4590亿元税负

爆角追踪
2026-11-18 11:01:03
比红薯通便,比芋头养人,11月使劲吃!一养肝、二通便、三健脾胃

比红薯通便,比芋头养人,11月使劲吃!一养肝、二通便、三健脾胃

阿龙美食记
2026-11-15 12:26:07
日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

扶苏聊历史
2026-10-11 11:35:08
中国芯片能否在5到10年内赶上美国?英特尔CEO表示:差距没那么大

中国芯片能否在5到10年内赶上美国?英特尔CEO表示:差距没那么大

林子说事
2026-11-17 07:18:15
湖人13胜2负高居西部第一,名嘴仍断言他们次轮出局

湖人13胜2负高居西部第一,名嘴仍断言他们次轮出局

元气满分吖
2026-11-19 03:16:52
生理性喜欢这么夸张的吗 ?看完网友分享大受震撼!一般人享受不了

生理性喜欢这么夸张的吗 ?看完网友分享大受震撼!一般人享受不了

另子维爱读史
2026-11-17 20:44:13
安徽阜阳一校花太漂亮了 身高170 五官精致 美得让人移不开眼

安徽阜阳一校花太漂亮了 身高170 五官精致 美得让人移不开眼

生活新鲜市
2026-11-18 16:53:58
马克龙私密谈话流出,48岁仍未“断奶”,73岁布丽吉特成最大牺牲品

马克龙私密谈话流出,48岁仍未“断奶”,73岁布丽吉特成最大牺牲品

恒星文娱
2026-11-17 23:01:29
为啥很多人打破头皮也要进国企?网友:因为有人就图稳定啊,比如我

为啥很多人打破头皮也要进国企?网友:因为有人就图稳定啊,比如我

带你感受人间冷暖
2026-11-19 00:05:18
性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

黯泉
2026-11-09 17:39:59
1879年,浙江巡抚谭钟麟午睡起来,路过通房丫头房间时与之发生关系,也就是这一次,这个丫头生下了一位国民政府主席

1879年,浙江巡抚谭钟麟午睡起来,路过通房丫头房间时与之发生关系,也就是这一次,这个丫头生下了一位国民政府主席

饭小妹说历史
2026-10-20 15:47:54
普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

巷北楠猫本尊
2026-11-17 16:13:32
2026-11-19 03:36:49
技术领导力 incentive-icons
技术领导力
Mr.K,出过书,做过CTO
157文章数 631关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

手机
家居
亲子
游戏
公开课

手机要闻

苹果自家App Store终于适配iPhone Duo,铰链屏裂事件又有新进展

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

宝宝被爸爸的动作整蒙了,一脸惊讶的表情

《GTA6》不设任务重玩菜单,提供15个存档槽

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版