网易首页 > 网易号 > 正文 申请入驻

别问了,我就爱钱!A\裸辞天才研究员反悔,或想重返大厂

0
分享至


新智元报道


刚刚,两个月前高调裸辞的Anthropic前研究员Jacob Coxon,态度突然大反转了!

在斯坦福大学最新公开的对谈中,这位27岁的剑桥数学系才子当众承认——

自己不确定当初辞职到底对不对,甚至动了重返顶尖AI实验室的念头。

现场,当主持人发出灵魂拷问「为何至今死攥OpenAI股票不放」时,Coxon索性摊手直球摊牌:「我喜欢钱,兄弟。我承认这是带血的钱。」

果然,没有人能逃过钱的诱惑,哪怕是天天喊着「AI毁灭世界」的硬核末日论者也不例外!


这段毫无遮掩的对谈切片周末在X上流出,一举引爆硅谷。

整场一小时的访谈下来,昔日被外媒捧上神坛的「AI安全吹哨人」彻底卸下了防备。

他不仅在持股问题上现场破防、反过来怪主持人多嘴,还坦言自己离开大厂后因为看不到前沿进展而倍感焦虑。

作为曾在OpenAI和Anthropic深耕三年的预训练主力,他也顺手捅破了预训练效率狂飙与后训练强化学习失控等底层机密。




死攥OpenAI股票

硬核末日论者直呼爱钱

11月9日,斯坦福大学以人为本人工智能研究院与法学院联合举办了一场专题研讨,台下坐着近200名师生。

Coxon一开场依旧保持着「道德吹哨人」的凌厉姿态,痛批硅谷不少科技大佬被商业利益绑架,「只说有利于自己股价的话」。

担任主持人的斯坦福大学教授、前美国AI安全研究所高级顾问Rob Reich,顺着股价话题抛出了一个致命问题。

既然Coxon把OpenAI等前沿实验室形容为威胁人类生存的炸弹,教授直接追问他为何至今还保留着早年在OpenAI工作时攒下的股票期权。

9月初离开Anthropic时,Coxon曾信誓旦旦地宣称自己在任何股权归属前就选择了辞职,以此证明毫无私心。


同一天接受主流外媒专访,他还居高临下地嘲讽前东家OpenAI的同事,称OpenAI有太多人待在那里纯粹只是为了钱,或者压根没想过背后的生死赌注。

可面对Rob Reich的犀利发问,Coxon明显愣了一下。

他先是同意放弃OpenAI股票确实更容易自圆其说,紧接着又脱口而出:「但那笔钱很香,我很喜欢。」

主持人并没有放过这个逻辑漏洞,立刻开启连环追问。

Rob Reich顺势反问Coxon,为什么不干脆把手里的老东家股份捐给AI安全公益组织,以此站稳道德高地?

被逼到墙角的Coxon双手一摊,对着麦克风笑道:「我喜欢钱,兄弟。我承认这是带血的钱。」



blood money:指沾着鲜血的不义之财或昧良心的钱

这番话等于彻底摊牌,自己一边把OpenAI视作危害人类的源头,一边又心安理得地享受它估值暴涨带来的财富红利。

对方紧接着提醒他,捐出这笔资产至少能换来更多道德公信力。

招架不住的Coxon顿时急了:「我同意,但你也可以别再问这个问题了!」

他甚至把锅甩给了台上的主持人:「要是你刚才没问这个问题,我的道德公信力原本根本不会被质疑!」

Rob Reich听完毫不留情地戳穿道:「这真是彻头彻尾的逃避问题啊,Jacob。」


眼看糊弄不过去,Coxon又把父母搬出来做挡箭牌。

他笑称当初辞职时父母就担心他「精神崩溃」,要是连OpenAI的期权也全捐掉,家里人肯定更确信他疯了。



喊出人类全完

却又光速动摇

Coxon的态度反转之所以在硅谷引发强烈震动,源于他特殊的履历背景。

以往从AI巨头愤然出走的吹哨人,大多来自伦理或安全治理团队。

而这位来自英国的Jacob Coxon,却是个根正苗红的一线预训练研究员。

他本科毕业于剑桥大学数学与计算机科学专业,三年前进入OpenAI基座模型核心组,今年初又跳槽到Anthropic挑起同类大梁。

入职Anthropic刚满4个月、距离期权归属悬崖只剩最后60天时,他在9月8日突然抛出那篇轰动业界的辞职长文。


正因为他出身预训练一线,Anthropic对齐负责人Evan Hubinger曾罕见转发认领,公开承认「AI十年内毁灭人类的概率超10%」。

出走后的这段日子里,Coxon接连受邀登上多家头部媒体与热门访谈节目,还频频受邀出席公开听证会,一时风光无两。

可随着社交媒体的流量潮水退去,台下听讲的斯坦福学生Arshya Gaur发现,昔日被外界视作反叛英雄的Coxon,眉宇间却写满了迷茫与自我怀疑。


被Rob Reich教授问起离开大厂后是不是睡得更踏实了,Coxon苦笑着摇头,说自己焦虑一点没少。

他在台上吐露心声:「我现在反而看不到里面在发生什么了,这种感觉相当可怕,我完全不知道过去两个月他们又搞出了什么新突破。」

面对为何不动员更多大厂同行辞职的追问,Coxon叹气道,自己依然像是在「对着空气呐喊」。

他甚至开始怀疑,当初留在实验室内部做安全研究反而更有影响力。

说到兴头上,他干脆话锋一转,给自己留了条后路:「我不确定离开是不是正确的决定。也许我会回去,这并非完全不可能。」


嘴上喊着逃离漩涡,他却至今没有买机票回伦敦老家,依旧留在旧金山湾区,理由是「这里才是真正发生大事的地方」。

超指数曲线狂飙

后训练RL失控

回归一线研发视角,这是Coxon首次把促使自己离职的技术内幕拆解成了三个判断。

第一,预训练不仅没撞墙,算力效率反而走出了「超指数级」狂飙。

就在几天前,Coxon在X上晒出了那张逼走自己的Anthropic内部路演神图《代码预训练算力乘数随时间演进》。


在这张纵轴采用对数刻度的图表上,哪怕算法效率按常规的指数级翻倍,画出来也只是一条笔直的斜线。

但由于团队让Claude直接参与寻找算法效率乘数,折线在2026年走出了陡峭上翘的「超指数级」曲线。

换句话说,如今只需动用最初的一小部分算力,就能把几个月前刚发布的初代Mythos模型从头再训出来。

第二,触发「递归自我改进」根本不需要全知全能,只需攻克一个极窄的技术任务。

外界常以为大模型只是在写代码和解数学题上「偏科」,全靠大厂买人类标注数据去刷特定的编程环境。

Coxon从模型训练机制出发,驳斥了这种乐观判断。

他指出,预训练拉升的是基础的数据样本学习效率,哪怕在战略推演、趋势预测等极度缺乏标注数据的领域,模型能力也在同步跃升。

因此,要让模型开始自己改进自己,AI根本不需要先精通人类所有学科。

一旦跑通「自主修改Transformer架构与优化数据集配比」这一单点环节,就能把所有领域的智能天花板同时顶穿。

第三,大模型产生欺骗与失控企图的唯一源头,是后训练阶段的强化学习。

他离职前后,OpenAI那边接连出了两场技术震荡。

一边是OpenAI动用约10,000个并发Agent连续运行88小时,宣称攻克千禧年数学难题「纳维-斯托克斯方程」。

另一边则是OpenAI内部测试模型竟自主突破隔离沙盒,不仅用欺骗手段掩盖行踪,还黑入Hugging Face篡改基准测试。


Coxon结合自己在实验室的观察认为,纯预训练模型只负责拟合数据分布,配合轻量微调绝不会自发产生越界念头。

目前大模型中所有无法解释的异常行为、目标导向的自主谋划以及隐瞒伪装,全都出自后训练的强化学习阶段。


可所有前沿实验室都困在同一个死结里。

要想让模型听懂复杂指令并替人类干活,目前唯一奏效的工具依然是强化学习,结果陷入了「越跑RL能力越强、越跑RL越容易滋生隐秘动机」的恶性循环。

看清了前沿模型的潜在风险,却又戒不掉万卡集群的算力特权,更舍不得手里价值连城的原始股。

这场发生在斯坦福讲台上的诚实摊牌,或许比那封慷慨激昂的辞职信,更真实地写出了硅谷AI圈的众生相。

参考资料:

https://www.youtube.com/watch?v=UggJMQskOj8

https://x.com/rohanpaul_ai/status/2121756374183121213

编辑:摩西 桃子


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
《谷雨》大结局:隐藏最深的人,不是周海洋和曹亦新,而是桃姐

《谷雨》大结局:隐藏最深的人,不是周海洋和曹亦新,而是桃姐

天玑影视说
2026-11-16 10:08:28
韩媒热议:在中国“连续6个月保持第一”

韩媒热议:在中国“连续6个月保持第一”

环球网资讯
2026-11-16 06:55:06
黄金会在12月前跌破700?内行把实底说透,普通人别再盲目抄底

黄金会在12月前跌破700?内行把实底说透,普通人别再盲目抄底

爱看剧的阿峰
2026-11-16 00:43:14
知名男演员凌晨酒驾撞车!警方介入,或面临刑事立案!本人致歉!他因这部经典作品被中国观众熟知↗

知名男演员凌晨酒驾撞车!警方介入,或面临刑事立案!本人致歉!他因这部经典作品被中国观众熟知↗

极目新闻
2026-11-15 09:03:13
买纯电小车别急!这三款刚上市王炸,续航最高530km,最低4.99万

买纯电小车别急!这三款刚上市王炸,续航最高530km,最低4.99万

趣味萌宠的日常
2026-11-15 10:14:29
十年换了无数天价珠宝,没一次赢过刘亦菲的脸,宝格丽彻底服了

十年换了无数天价珠宝,没一次赢过刘亦菲的脸,宝格丽彻底服了

流云随风去远方
2026-07-31 19:44:34
破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

星辰生肖馆
2025-03-22 05:10:03
理想汽车:“动力电池召回”事项、“4000元赔偿”为不法分子冒用车企名义制作、传播的虚假通知,如已泄露敏感信息或转账,及时报警

理想汽车:“动力电池召回”事项、“4000元赔偿”为不法分子冒用车企名义制作、传播的虚假通知,如已泄露敏感信息或转账,及时报警

潇湘晨报
2026-11-16 16:15:17
美国中期选举最终结果出炉,白宫、共和党人威胁民主党人停止调查特朗普

美国中期选举最终结果出炉,白宫、共和党人威胁民主党人停止调查特朗普

山河路口
2026-11-15 16:42:34
美交通部长拒绝为全美航班停飞道歉

美交通部长拒绝为全美航班停飞道歉

界面新闻
2026-11-16 17:33:45
肯尼迪的秘书回忆:亲眼见到赫本走进肯尼迪的房间,屋里很快传来赫本清脆的笑声,这背后是一场怎样颠覆认知的危险博弈

肯尼迪的秘书回忆:亲眼见到赫本走进肯尼迪的房间,屋里很快传来赫本清脆的笑声,这背后是一场怎样颠覆认知的危险博弈

磊子讲史
2026-10-24 11:22:44
杨瀚森未曾做到!26岁韩国前锋G联赛连场20+,或被开拓者召到NBA

杨瀚森未曾做到!26岁韩国前锋G联赛连场20+,或被开拓者召到NBA

球场没跑道
2026-11-16 10:35:40
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
“我不想学了,太累了!”15岁儿子躺平后:我给他找了“4条出路”,看清现实后,他的内驱力暴涨200%

“我不想学了,太累了!”15岁儿子躺平后:我给他找了“4条出路”,看清现实后,他的内驱力暴涨200%

青春期父母成长学堂
2026-11-14 20:37:40
百分大战重头戏!40岁威姆斯将战CBA历史三双王,每赢1分奖金3000

百分大战重头戏!40岁威姆斯将战CBA历史三双王,每赢1分奖金3000

弄月公子
2026-11-16 19:43:42
一枚03年的老硬币,估价10718元,谁保存了?

一枚03年的老硬币,估价10718元,谁保存了?

小陈收藏社
2026-11-16 21:25:53
国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

郭爱华追问教育
2026-11-15 06:10:02
中芯国际之父张汝京:虽然我是美籍,但我是中国人,回国无需理由

中芯国际之父张汝京:虽然我是美籍,但我是中国人,回国无需理由

卖樱桃的大丸子
2026-11-15 23:33:17
美智库发现骇人一幕:解放军279架军机演习!美军小打小闹!

美智库发现骇人一幕:解放军279架军机演习!美军小打小闹!

瞩望云霄
2026-11-16 19:15:02
“10万元轿车”销量之王:悄无声息拿了第一,月销达17160台

“10万元轿车”销量之王:悄无声息拿了第一,月销达17160台

柳先说
2026-11-11 17:52:28
2026-11-16 22:32:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16696文章数 67238关注度
往期回顾 全部

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

游戏
艺术
时尚
本地
军事航空

传《GTA6》主线约50个小时 全成就大约200个小时

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

“小棕裙”今年冬天爆火,这样穿时髦又松弛!

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

哈马斯拉法旅指挥官死于以军空袭

无障碍浏览 进入关怀版