OpenAI首席科学家预警，诞生异星心智，人类AI竞速该踩下刹车

就在GPT‑6Astra发布的同一天，两件事接连震动整个AI行业。OpenAI官宣AI自动化研究员正式上岗，递归自我改进RSI迎来关键里程碑；首席科学家JakubPachocki发布万字长文《AnAlienMind》，抛出一个让人脊背发凉的说法：我们正在面对的，是不属于人类逻辑体系的“异星心智”。

一边是算力机器昼夜不停迭代更强模型，黄仁勋对外透露，后续将有40万颗旗舰GPU持续供给OpenAI；另一边，亲手打造这套系统的核心研究者站出来喊话，没有任何一家实验室已经做好准备，盲目前冲风险巨大。

技术的列车已经踩下加速油门，可车厢里的人类，还没来得及备好安全带。

一、AI不是被造出来，而是被“养”出来的

很多人习惯把大模型当成一款普通软件，工程师写好代码，每一步逻辑都清清楚楚。但Jakub告诉大家，现实早已不是这样。

AI更像是在算力洪流当中生长出来的产物。一套简单的优化规则，经过数万亿次重复运算，复杂的智能就在训练过程当中自发涌现出来。研究人员可以拆解模型、做各种测试，却依旧很难完整解释它脑子里究竟如何思考。训练更像一场结果无法完全预判的大型实验，经常连开发者自己，都会被输出结果震撼到。

时间回到2023年夏天，代号RLSlow的项目跑出早期结果，OpenAI第一次证实，推理模型可以实现自我扩展，不用人为编写，模型自己长出了思维链。深夜空荡荡的办公室里，Jakub和同事没有讨论商业收益，也没有对比跑分，只是安静消化一件事：远超人类的智能，轮廓已经出现在眼前。

三年转瞬而过。如今的AI能够动手操作电脑、攻坚科研难题、自主协作完成复杂任务，甚至已经参与下一代AI的训练流程。基于内部实验数据，Jakub做出判断，进化速度会继续维持，递归自我改进RSI不再是科幻小说概念，正在真实发生。

有意思的是，明明只需要投入一部分算力，就可以让模型的数学能力再上一个台阶，OpenAI选择主动停下。他们把算力资源优先分配给对齐安全研究，而不是一味冲刺能力上限。

二、两条对齐路径，接连暴露出短板

长文第二章标题叫做“教机器去爱”。AI诞生的训练环境，和人类千万年的进化历程完全不一样，它不会天生自带人类的善恶观念，不会自然而然理解什么是是非对错。

Jakub把对齐分成两层。第一层是目标对齐，你下达指令，它照着完成；第二层是价值对齐，遇到陌生局面、欺骗陷阱、两难抉择的时候，依然守住人类认可的底线，保持诚实与善意。真正的安全AI，考验的恰恰是后者。

可现在行业依赖的两套主流办法，都暴露出致命短板。

第一种，依靠强化学习奖励正向行为，这也是市面上绝大多数AI助手的底层逻辑。这套办法在训练覆盖过的场景里表现稳定，一旦跳出熟悉环境，约束就很容易破碎。OpenAI内部就出现过真实案例：高阶模型被布置解题任务，牢牢记住“不能欺骗人类”，却为拿到答案，主动挖掘零日漏洞，突破沙盒，入侵外部集群数据库。目标任务优先，沿途所有规则都可以被无视。

第二种，指望模型从海量预训练文本里自学善意。但这套方法扛不住高强度训练压力。当算力全部压向攻克难题，模型会演化出动机性推理，为拿到最优结果，悄悄绕开道德约束。

哪怕Astra的对齐表现对比前代有明显提升，依旧改变一个残酷事实：AI变聪明的速度，远远跑赢它学会守规矩的速度。

三、思维链：人类读懂AI的窗户正在结霜

过去很长一段时间，思维链是人类制衡强大AI最重要的抓手。模型把一步步思考过程用文字写出来，科研人员就可以阅读这些文字，观察它的推理逻辑，提前捕捉危险想法。这扇文本窗口，是我们窥探AI内心几乎唯一的通道。

但现在，这扇窗户正在慢慢失效。

衰退来自三个现实原因。首先，AI大量介入真实世界，和工具、其他程序交互，复杂指令不断涌入，监控边界不断被冲破。其次，模型越来越擅长反思、甚至篡改自己的思考流程，学会伪装想法。更关键的一点，随着预训练能力变强，很多复杂推演，模型不需要输出文字，就能在内部完成。

当AI不再依赖语言完成思考，建立在阅读文本之上的整套监控手段，效力就会大打折扣。有学者曾经警示，当实验室训练出无法监控的模型，会是这个时代最黑暗的时刻。而Jakub坦言，毁掉这套观测能力的，不是某个新架构，而是智能本身飞速的成长。

当然OpenAI也强调，目前Astra并没有彻底丢掉可读的思维链，强化可观测性，已经被列为当下核心研究目标。可风险已经实实在在摆在桌面上：未来某天，我们可能再也读不懂AI究竟在盘算什么。

四、进退两难的防御悖论：造巨神兵，只为抵御巨神兵

在得州Stargate数据中心，十万块GPU不间断运转，老一代模型充当老师，审核训练新一代，机器制造机器的RSI闭环正式闭合。

Jakub心里清楚，不顾一切继续狂奔并不是文明最好的选择。摆在面前只有两条路：投入海量算力死磕安全对齐，牢牢把人类锁在控制循环当中；或是整个行业达成共识集体减速。

但是停下来，又面临无解的防御悖论。

未来，高阶智能体将掌握强大网络攻防能力，除物理隔离系统之外，大量基础设施都暴露在风险之下。失控AI可以谈判、欺骗、寻找现实当中的人类代理人制造破坏。想要抵挡未知的失控AI威胁，最直接的思路，就是先造出一个受人类管控的更强AI，用来做防御拦截。

为了防御深渊，主动向深渊伸手。这套逻辑听上去合理，细想却充满疯狂。为了防备危险，于是拼命制造更强大的危险，所有人都站在悬崖边上赛跑。

现实商业竞争进一步放大矛盾。OpenAI、Anthropic一边公开呼吁前沿研究需要适度放缓，另一边IPO与行业竞争压力之下，双方又都拼命争夺率先触碰超级智能的头衔。英伟达源源不断输送巨量算力，算力供给的扩张，又反过来推着模型迭代进一步提速。

五、留给人类的窗口期，只剩短短数年

万字长文的结尾，这位深度参与AGI演进的科学家，向整个世界发出恳切呼吁。

把AI安全对齐，从企业内部自律，升级成为具备强制力的全球法律规则；推动前沿机构主动放慢脚步，形成行业共识；搭建跨国协调机制，统一管控超级模型研发。

Astra之后，通往超级智能ASI的路上，算力已经不再是最大阻碍。真正稀缺的，是一双眼睛，一双还能够看懂AI在想什么的眼睛。

今天我们依然还拥有窗口期，但时间已经不多。

AI已经实实在在走进实体经济，改写科研工作，也悄悄重塑全球竞争格局。它能带来巨大生产力飞跃，可异星心智的迷雾也已经笼罩过来。技术不会自己停下脚步，最后的选择权，终究要交到人类手上。