网易首页 > 网易号 > 正文 申请入驻

惊爆!Anthropic呼吁全员停止AI研究

0
分享至

几天前,Anthropic发了一篇很长的博客。他们内部研究发现:AI正在加速AI自身的发展,而这条路,可能通向一个人类从未真正准备好的地方。

有人说这是上市前的公关炒作、也有人深以为然积极应对。Anthropic台城地说:我们也不确定AI最终走向哪里,但我们觉得有必要现在就告诉所有人。



一、AI的能力跃迁,比人类预期的快

先说一个Anthropic的研究结论,AI能独立完成任务的时长,在不断增长。

2024年3月,Claude Opus 3能搞定大概需要人类4分钟的软件任务。一年后,Claude Sonnet 3.7做到了1.5小时。再一年,Claude Opus 4.6,12小时。最新的Mythos Preview,在METR的测试框架里,连续工作超过16小时,已经到了测试工具能衡量的上限。

这个翻倍速度,从原来的每7个月翻一倍,加速到了现在的每4个月翻一倍。如果趋势不变,今年内,AI就能独立完成需要人类花好几天的任务。到2027年,可能是好几周。



二、Claude开始给自己写代码

Anthropic的工程师现在每季度提交的代码量,是2021年到2025年平均水平的8倍。这个数字背后,是Claude Code上线之后发生的结构性变化。在Claude Code出现之前,Anthropic代码库里AI写的代码占比一直是个位数。截至2026年5月,这个数字超过了80%。



代码量暴增,但质量呢?Anthropic说,这一年来,工程师需要纠正Claude的次数越来越少了。在最开放、最模糊、连答案长什么样都不确定的编程任务上,Claude的成功率从六个月前的26%跳到了现在的76%。50个百分点,半年时间。

Anthropic现在直接用Claude做代码审查。所有提交到代码库的改动,都会先过一遍Claude的自动审查,检查bug、安全漏洞和其他问题。他们回溯分析发现,如果之前每次改动都走这道流程,大约三分之一导致线上事故的bug,在上线前就会被拦住。那些写代码的工程师,已经是全球顶尖的AI系统开发者了。Claude在抓他们的bug。

三、研究能力,开始超过人类

编码之外,Anthropic还做了一个实验,每次发布新模型,都会给Claude一段训练小型AI模型的代码,让它在保证正确性的前提下把运行速度优化到最快。2025年5月,Claude Opus 4的答案是加速3倍。2026年4月,Claude Mythos Preview做到了52倍。一个熟练的人类研究员,需要4到8小时才能勉强达到4倍。

Anthropic给Claude一个AI安全研究课题,让它自己提假设、设计实验、跑结果。两个人类研究员花了大约一周,把研究中的某个关键gap缩小了23%。Claude用了约800小时的算力、花费约18000美元,把同一个gap缩小了97%。

这意味着,人类在AI开发流程里的参与,每一个环节都在收窄。代码是Claude写的,审查是Claude做的,实验执行Claude比人快一个数量级,实验设计Claude开始自己来了。目前人类还保有的比较优势,是研究品味和判断力,知道什么问题值得问,知道哪个方向更重要。但这个优势能守多久,Anthropic自己也说不准。

四、AI自我进化的三种可能性

Anthropic在博客里描绘了三种可能的走向。

第一,停滞。那些指数曲线其实是S曲线,研究判断力这件事靠规模解决不了,需要全新的架构突破。或者瓶颈出现在能源、芯片、算力的物理供应链上。

第二,AI持续加速,但人类仍然把着方向盘。组织效率指数级提升,100人的团队做出10万人规模的产出。Anthropic认为我们大概率正在走进这个场景。

第三,AI实现完全的递归自我提升,开始自己造下一代自己。这个场景下,AI的发展速度完全取决于算力。人类退到监督、验证、审核的位置。

Anthropic发这篇博客,是想警示全人类:AI进展在未来几年会加速,而不是持平或减缓。如果存在一个可验证的机制,能确保所有AI实验室都没有在偷偷加速,他们愿意减速,甚至暂停。他们计划在未来几个月内就这个议题与立法者展开沟通。

但是业界也有不同声音,认为一个编码工具不会产生真正的智能。虽然观点存在争议,这恰恰说明没有人真的知道接下来会发生什么。Anthropic自己也承认这一点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

极目新闻
2026-11-18 19:24:20
彻底收回!中国关停印度全部签证外包中心,使馆直管严查,印度商界彻底慌了

彻底收回!中国关停印度全部签证外包中心,使馆直管严查,印度商界彻底慌了

魔都姐姐杂谈
2026-11-18 13:09:03
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

背包旅行
2026-11-19 01:22:04
央视曝光校园举报乱象:有家长问“能否保证新老师不怀孕”

央视曝光校园举报乱象:有家长问“能否保证新老师不怀孕”

澎湃新闻
2026-11-15 10:26:02
莫言:退休后,亲友可有可无、房子可有可无、老伴可有可无、儿女的孝心可有可无、原单位的好处、饭局可有可无......日子就特别好过

莫言:退休后,亲友可有可无、房子可有可无、老伴可有可无、儿女的孝心可有可无、原单位的好处、饭局可有可无......日子就特别好过

二胡的岁月如歌
2026-11-05 09:38:15
白人又要回到白奴时代了,一部分人已经先过上了白奴生活

白人又要回到白奴时代了,一部分人已经先过上了白奴生活

百花谷周伯通
2026-11-17 07:16:50
波切蒂诺带来体能与力量教练图亚,是曼联首位女性教练组成员

波切蒂诺带来体能与力量教练图亚,是曼联首位女性教练组成员

懂球帝
2026-11-18 11:26:18
胖东来走了,腾讯也走了:留下空铺子和降下来的房租,是谁赢了?

胖东来走了,腾讯也走了:留下空铺子和降下来的房租,是谁赢了?

墨兰史书
2026-08-18 07:25:11
11月18日俄乌:对俄远程打击遭美国谴责,欧洲多国继续大力援乌

11月18日俄乌:对俄远程打击遭美国谴责,欧洲多国继续大力援乌

山河路口
2026-11-18 20:30:13
“恭喜BLG,但我早不玩英雄联盟了”

“恭喜BLG,但我早不玩英雄联盟了”

中国企业家杂志
2026-11-17 19:40:04
突发! 澳洲重磅警告: 危机即将来临, 全民囤好紧急物资! 官方推出应急包, 有华人提前半年囤货

突发! 澳洲重磅警告: 危机即将来临, 全民囤好紧急物资! 官方推出应急包, 有华人提前半年囤货

澳微Daily
2026-11-18 15:35:24
轰40+11+8三分,垫底鱼腩养出超级奇兵!末节独揽25分终结12连败

轰40+11+8三分,垫底鱼腩养出超级奇兵!末节独揽25分终结12连败

锅子篮球
2026-11-18 15:30:14
智商高、还有本事的三大星座

智商高、还有本事的三大星座

别人都叫我阿螫
2026-11-18 05:58:52
比亚迪新车官宣:11月18日即将上市,续航1630km

比亚迪新车官宣:11月18日即将上市,续航1630km

科技阿维
2026-11-18 22:31:26
向太曝马伊琍已再婚:当年文章过不了心理那关

向太曝马伊琍已再婚:当年文章过不了心理那关

娱乐看阿敞
2025-12-12 15:50:00
日本10月份出口同比增长20.5%

日本10月份出口同比增长20.5%

每日经济新闻
2026-11-18 07:56:11
人民日报发文预警!新型黑恶势力,早已换上合法外衣,更难察觉

人民日报发文预警!新型黑恶势力,早已换上合法外衣,更难察觉

北纬的咖啡豆
2026-11-18 09:44:39
有没有发现,身边有很多60、70后,银行里存有上百万,也有退休保障,却不舍得花钱,甚至一杯奶茶都没喝过,就知道存钱

有没有发现,身边有很多60、70后,银行里存有上百万,也有退休保障,却不舍得花钱,甚至一杯奶茶都没喝过,就知道存钱

犀利辣椒
2026-10-20 06:22:18
爆炸沉没!霍尔木兹海峡

爆炸沉没!霍尔木兹海峡

陆弃
2026-11-17 11:10:41
狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

大爱狗狗控
2026-11-18 20:48:36
2026-11-19 03:48:49
技术领导力 incentive-icons
技术领导力
Mr.K,出过书,做过CTO
157文章数 631关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
家居
游戏
亲子
公开课

艺术要闻

洛阳发现唐代墓志,将魏碑、唐楷精髓融于一体,比欧颜柳赵的字更耐看!

家居要闻

2026建博会(广州) 公装联探展交流活动

《GTA6》评测公布后母公司盘前涨近7%

亲子要闻

宝宝被蚊子咬了,当场报仇

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版