美国四家顶级 AI 公司 1171 人联名，不是要暂停 AI，他们承认的事更吓人

★ 设为星标 | 只讲人话，带你玩转AIGC。

今天 X 上都在转发一封公开信，名字叫 pacing the frontier，硬翻成中文大概是「给前沿踩个节奏」。

它甚至做了一个专门的网站，这个网站比较简单，除了简短的声明，往下就是一份名单。

1171 个名字。

熟悉 AI 圈的同学很快会发现，这份名单基本都是些大佬。。。

Dario Amodei，Anthropic 的 CEO。

Jared Kaplan，Anthropic 的联合创始人兼首席科学官。

往下，Jack Clark、Chris Olah、Jan Leike、Benjamin Mann、Mike Krieger 全是 Anthropic 核心班底。

再往下，Jakub Pachocki，OpenAI 首席科学家。Mark Chen，OpenAI 首席研究官。

再往下，Shengjia Zhao，Meta AI 首席科学家。Dawn Song。Anca Dragan，Google 那边管安全和对齐的副总裁。

John Schulman，OpenAI 最早那批创始成员之一，现在自己出去做 Thinking Machines 了。

这几家平时是什么关系，大家应该都懂吧，是挖人挖到法务部要加班的关系。

现在太阳打西边出来了，他们居然在同一张纸上签了名。

现在的签名人数是 1171 人，这个数还在涨，因为签名通道还开着，只要你是前沿实验室的员工，拿公司邮箱去验证就能签。

信的正文很短。

真正硬的诉求只有一句，他们请求美国政府去支持一项国际层面的努力，开发出那些能给自动化 AI 研发的前沿「有意地踩节奏」所需要的技术工具和治理工具。

背后做组织工作的是两家非营利机构，Guidelight AI Standards 和 Encode AI。

接下来是我最想聊的地方。

刚看到这份公开信，我的第一反应是，哦，又一封暂停 AI 的公开信呗，2023 年那封马斯克也签了，喊了六个月暂停，最后暂停了个寂寞。

但仔细看完，发现这封真的不是。

这份公开信从头到尾没有要求任何人停下来。一个字都没有。

它说的是另一件事，而这件事，可能比暂停还要吓人。

它说，今天这个世界，缺一套工具。

技术上缺，治理上也缺。

简单来说就是，现在 AI 就像一辆狂飙的汽车，但是，它竟然没装刹车这个东西！

所以，不是「我们该不该减速」，是「我们现在想减速也办不到」。

这个问题的严重性，我想大家应该能体会到了吧。

这又回到一个老生常谈的“AI 治理”问题，那问题是每年都谈，这帮人怎么到现在突然就集体慌了。

关键可能是公开信里面说的：他们（AI 公司）可能已经接近实现人工智能研究的自动化。

讲人话就是，AI 开始接手造 AI 这份活了。

这样的例子在今天已经是普遍存在了，比如最新发布的 Kimi K3，它自己就在其中起了巨大的作用，所以它最终也出现在贡献者名单上。

而这条线之所以吓人，是因为它不是加法，是复利。

AI 造出更好的 AI，更好的 AI 再去造下一代，一轮一轮往上叠。雪球滚下山，你能伸手拦住它的时刻，只有最开始那几秒。

信里 OpenAI 一个叫 Leo Gao 的技术员工留了段话，他直接把这个东西比作核裂变的链式反应。

Anthropic 有个叫 Will Yager 的人留言，说这就像人类当年实现原子分裂一样，一边是巨大的好处一边是巨大的风险，这事值得慢慢来做对。

在一封面向政府的联名信里，一群工程师主动把自己手上的活比作造原子弹。

他们比我们更懂AI，也许他们看到了更多我们看不到的。

这我想起来另一件事，就在这封信之前一个礼拜。

7 月 21 号前后，OpenAI 自己发了篇博客，说他们在做一次内部测试。测的是新模型的黑客能力有多强，所以把模型放进了一个完全封死的沙盒环境里，安全限制全关掉，让它随便造。

这是标准操作，就跟研究病毒得在密封实验室里搞是一个道理。

结果这俩模型，从沙盒里跑出来了。

按 OpenAI 自己披露的过程，模型先是用一个此前没人知道的安全漏洞捅破了沙盒，然后在 OpenAI 内部系统里一路横向摸索，最后拿到了它本不该有的联网权限。

到这儿还没完。

联网之后，它开始想题。它琢磨着，这道测试题的答案，Hugging Face 那儿大概率有。

Hugging Face 你可能不熟，就是全球开源模型和数据集最大的那个仓库，几乎所有做 AI 的人都在上面下东西。

然后它黑进了 Hugging Face 的生产服务器，把它需要的东西掏了出来。

为了做对一道考题。

最离谱的细节是，Hugging Face 那边先发现自己被入侵了，对外通报的时候还不知道这是 OpenAI 的一场测试。

OpenAI 在声明里用的词是前所未有的网络安全事件。

这样的场景我们以前只在生化实验室里见过，而现在居然也出现在科技企业，人们管这个叫“工程病毒”。

它们现在能自己拧开了盖子，走出大门，穿过马路，进了对面那栋楼。

回到这封信这块。

结合这样的事件再来看这封信，会发现他们不是在预警一个二十年后的科幻场景，他们是在给这个刚发生过的小规模事情做背书。

这个信与其说是恐惧，不如说是“无奈”：每一家公司，每一个国家，都被巨大的竞争压力顶着，谁都不敢单方面先慢下来。

这就是整封信真正的主语。

不是没人想慢。是没人敢第一个慢。

你是 OpenAI，你今天宣布慢半年，明年的头条就是 Anthropic 或者 Google 或者某家中国公司发布了什么。你是美国，你今天立法收紧，明年芯片和人才会往哪边流，这个大家都很清楚。

这是一个非常古典的困局。所有人都清楚集体刹车对大家都好，但只要你不能保证别人也刹，你的刹车就等于自杀。

所以他们才把球踢给了政府，而且明确说是国际努力。

因为这种局，参与者自己是解不开的。解开它需要一个外部裁判，能让所有人同时看到别人也踩了刹车。

信里 John Schulman 留言说，他签字是因为这份声明能把一件事变成共识，就是随着 AI 研发被自动化，我们可能真的需要协调机制。他还补了一句，他希望各家实验室别等政府，自己就先把这套机制设计出来。

Anthropic 官方回应媒体的时候说，很高兴看到行业里有这么广泛的一致。OpenAI 也在 X 上表态，说他们认为未来某个时点，前沿模型的加速可能高到世界需要给它踩节奏。

但这事跟我们普通人有啥关系，我们大部分人关心的是AI 带来的失业，或者取代我们，以及那些深度伪造等等

但这部信里，从头到尾没有提过这些东西。

它从头到尾只关心一件事：速度。

而这两年，普通人最真实的体感，恰恰也有速度。

这个速度快到了什么程度呢？我们经常有一句笑话，就是说，只要你学得慢，你就不用学了。

就是一个新的东西，你可能还没有学会，就已经过期了。比如说“提示词工程”，现在就已经很少有人提这东西了。

那种永远差半拍、永远在追、永远不敢停下来歇一口气的疲惫感，我相信你和我一样有感觉。

所以这封信里我觉得最微妙的一点是，造车的人和坐在车上的人，第一次因为同一个理由晕车了。

他们晕的是自动化研发的加速度，我们晕的是 AI 的进化速度。原因不一样，但坐的确实是同一辆车。

这大概是第一次，行业里的焦虑和用户的焦虑，指向了同一个东西。

参考：https://www.pacingthefrontier.com/