上海
曾在OpenAI和Anthropic两大AI巨头担任核心预训练研究员的Jacob Coxon，以一封公开辞职信宣告彻底退出AI行业。这位27岁的英国数学家直言，当前的AI开发是一场“拿全人类生命进行的豪赌”。
Coxon在社交媒体上发布的长文指出，AI公司正在推进能够“自我改进”的超级智能系统，这些系统“很快就会拥有超越人类的能力，可以入侵任何东西、一夜之间彻底改变任何领域，并获得真正的权力和资源”。他强调，这些系统不是被人类精确制造出来的，而是通过海量数据训练“养”出来的，连开发者自己也无法完全理解它们。
这一判断与OpenAI首席科学家Jakub Pachocki在同日发布的长文《An Alien Mind（一个异星心智）》形成呼应：AI是一种“异星心智”，其运行逻辑从根本上超出了人类的理解框架。
行业内部恐惧：高管私下深信AI“本十年末可能杀死所有人”
Coxon披露了一个令人不安的事实：AI巨头内部对技术的担忧远超公众想象。许多高管和资深研究员在公开场合措辞温和以显得理智，但私下里，他们深信AI可能在本世纪末“杀死所有人”。
他特别强调，“这不是营销噱头”，而是行业核心人物真实存在的恐惧。
这一说法得到了Anthropic内部人士的直接印证。该公司对齐团队负责人Evan Hubinger公开回应称：“Jacob说的没错，我们确实真心相信AI可能杀死所有人类！我个人认为在未来十年内这一概率超过10%”。
更令人警觉的是，Hubinger坦承Anthropic“目前还没有计划”来确保先进AI系统保持安全并与人类价值观一致，“也没有明显走在制定此类计划的正轨上”。
两家巨头的“风险认知差”：一家没意识到，一家在被迫竞赛
作为极少数在OpenAI和Anthropic都有过工作经历的人，Coxon揭示了两家公司在应对AI风险上的根本差异。
OpenAI内部的许多人“并没有深刻意识到这项技术关乎文明存续的利害关系”，而Anthropic虽然深刻理解风险，却陷入了一种“被迫竞争”的怪圈——他们认为如果自己不抢先开发出来，其他公司会更不负责任，因此即便风险重重，也必须争夺领先地位。
这种“军备竞赛”心态造成了荒诞的后果：一家以安全为立身之本的AI公司，正在未完全掌握超级智能运行机制的情况下，不断推进强化学习的极限。
Coxon对此的质问一针见血：“这些关乎人类命运的讨论，居然只能发生在旧金山几个工程师的MacBook上，而不是像曼哈顿计划那样在沙漠里的掩体中进行，这本身就是一件疯狂的事”。
冰火两重天：资本狂欢与安全真空的撕裂
就在Coxon发出警告的同时，资本市场对AI的狂热丝毫未减。Anthropic最快可能于本月提交IPO申请，估值预计接近2万亿美元；OpenAI则预计在今年晚些时候或2027年初上市，投资者对其市值的预期同样高达万亿美元级别。
Coxon告诉Axios，他在股权归属前就离开了Anthropic，“我没有从推高Anthropic估值中获得任何好处”。他用放弃数千万美元潜在收益的方式，证明自己的警告不是表演。
监管层面，美国目前尚无联邦层面的AI法规，政策路线明确优先推动轻监管以最大化AI的经济效益。尽管Coxon、Pachocki和Anthropic CEO Dario Amodei已与逾千名AI研究人员联署声明，呼吁在必要时为自我改进的AI模型踩下“刹车”，但监管回应至今仍显滞后。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
