这一波AI革命，可能到头了

本文是圆方的第1628篇原创

（点击标题下方小耳机标志可收听音频）

01

这两天有两则“离职”的新闻，倒还都是挺沸沸扬扬的，传播度还是挺广的。

一个是被告“洋状”的星宇股份，一个则是从Anthropic离职的Jacob。

9月9日，曾先后任职OpenAI、Anthropic，深耕大模型预训练方向的AI研究员Jacob Coxon在社交平台X官宣从Anthropic离职，并公开发帖阐述离职原因，迅速引发全球AI行业热议。

在X上，他说他离职的原因是，他认为OpenAI和Anthropic两家头部AI实验室，并未足够负责任地发展AI。

在行业竞争驱动下，它们一味加速冲刺可自我改进的超级智能，如同拿全人类的命运冒险下注。

行业陷入囚徒困境，没人敢减速，他不认同这种冒进的研发路线，因此选择离开。

不知道小伙伴们看完这个新闻什么感受，但是大多数公众看到之后真的觉得AGI马上就要实现了，似乎AI马上就要替代人类，掌控一切了。

不过事情，真的是这样的吗？

大家好，我是圆方，今天我们一起聊聊：

这一波AI革命，可能到头了

02

圆方应该是全网最早开始“鼓吹”AI的那一波人了，在过去4年多里面的1600多篇文章中，圆方提及AI的有300多篇。

从2022年4月写的 就开始谈AI相关的话题。

紧接着也是在2022年4月，圆方就写了 ，文章里面说：

而随着新时代，这种新的“生产关系”不断的在社会中渗透，原有在社会经济活动中活得很自在的企业，特别是“大企业”，会纷纷因为这种大环境的改变，而逐渐消亡。 如果参照历史，从2008年到2038年那些曾经显赫一时、知名的的企业，能够穿越周期的可能20%都不到；如果从绝对的企业数目上看，大概率是百不存一。

23年2月，经过了一年的观察和思考，圆方写下了那篇可能很多小伙伴看过的：

之后这三四年，围绕着AI会如何重塑社会的组织架构，圆方也谈了非常多自己的思考，比如：

所以，说圆方是AI最大的拥趸应该也不为过，圆方应该是对于这波AI革命最乐观的。

2022年圆方聊AI的时候，这个词还不为大多数人所知道

2023年圆方聊AI的时候，绝大多数人都还没有用过

2024年圆方聊AI的时候，绝大多数人还在恐慌

而今天，当全民都开始信仰AI，当所有人都认为这会是人类的下一阶段的时候，当所有人都迫不及待投下筹码，要加入到这一波AI的投资狂欢的时候。

为什么今天圆方旗帜鲜明地说：

这一波AI革命可能到头了呢

03

先说回开头讲的 Jacob离职发的X

他可能说出了一些事情

但一定没有说所有事情

因为不管从哪个角度去分析他的发言

都很难实质性解释他的行为。

比如我们可以从他的选择来推演：

如果他担心AI真的接管一切，掌控人类，摧毁世界，那么他应该做的不是留在这些研究室，提前做好防范吗？

为什么是离开呢？

他认为Anthropic又或者OpenAI离开他研究就无法进步了吗？

比如我们可以从他的逻辑来推演

因为 从“行业竞争”所以“人类毁灭”，这中间其实省略了很多逻辑过程。

竞争激烈，不等于所有公司可以无限地烧钱；

公司无限烧钱，不等于着技术会一直革命；

技术一直革命，不等于模型能完全自我改进。

模型能完全自我改进，不等于一定能超级智能；

出现了超级人工智能，不等于它能突破控制。

它能完全突破控制，不等于它要毁灭人类。

（圆方认为，到超级智能那一步就走不动了）

我们可以从大公司的反应来推演：

照理说，这种要求限制技术发展的新闻，某种程度上是影响了这几个美国头部AI公司的利益的。

但是很反常的是这几个美国头部AI公司，反而明的暗的都在赞同他的说法。

圆方觉得很难把这个归因到一些AI公司领导的个人道德水准上。

所以考虑到 Anthropic已经递交了申请书谋求上市，计划通过IPO募资最高1000亿美元，目标估值高达约2万亿美元。

若成行，这将超越SpaceX，成为有史以来规模最大的IPO。

圆方有理由相信，所谓的AI即将控制人类，只是在讲一个新的估值故事。

毕竟，如果真有一个能控制全人类的公司，它的估值两万亿美元岂不是太少了？

04

在一年半以前，2025年1月，圆方就对AI的发展有一个判断

文章里面圆方说：

未来二十年，AI会充斥在我们生活中的方方面面，彻底的改变我们的工作，生活，以及社会，文化。但是，不要幻想，我们能够在我们手中“制造出来”一个“全能的神”。

怎么去理解圆方的这种“AI革命”的“到头”？

大家先别急着理解成技术要停了。

技术不会停。

人类只要还在追求效率、利润、便利，技术就会继续往前走。

圆方讲的是那套“通用人工智能马上降临，硅基生命即将接管世界”的叙事，可能要先到头了。

这个叙事在过去两年撑起了太多估值，也制造了太多焦虑。

05

我们回看蒸汽机。

从纽科门到瓦特，再到后来高压蒸汽机、多胀式蒸汽机、蒸汽轮机，马力越来越大，热效率越来越高，单位成本越来越低，可靠性越来越好。

可是蒸汽机始终是蒸汽机。

它把热能转成机械能，需要燃料，需要维护。

它没有因为效率提升就变成永动机。

电力革命同样如此。

发电方式从火电到水电、核电、风电、光伏，输电从低压到高压，电机从笨重到精密，电网从局部到全球。电压等级、输送距离、稳定性、成本都在迭代。

底层原理还是电磁感应那一套。

计算机革命也类似。

电子管到晶体管，晶体管到集成电路，集成电路到超大规模集成电路，运算速度越来越快，存储越来越大，功耗越来越低。

底层逻辑还是图灵机、冯诺依曼体系。

06

AI这波革命也在这个序列里。

未来生成视频的效率会越来越高，可能每个人一句话就能生成一部120分钟的48K超高清电影，可是AI做的还是生成电影。

现在AI设计一个网站需要花一个小时，未来可能5分钟就生成好了，而且比现在更好。

可是它做的还是生成网站。

能力会扩展，效率会提升，成本会下降，产品会变化。

数据、算力、算法、统计相关性这些底层东西仍然在。

目标要人给，结果要人筛，责任要人担。

它可以替代部分任务，无法替换掉人。

07

有人会说，这次不一样，因为AI能自我改进。

圆方问一句，自我改进到什么程度？

改到不需要数据？

改到不需要算力？

改到不需要人设定目标？

改到能理解一切因果？

改到能承担法律责任？

这些都没有发生。

模型可以写代码，可以调参数，可以搜索方案，可以优化流程。

它仍然在一个封闭的目标函数里运行。

行业里说的自我改进，很多时候是工程流程自动化，是模型辅助研发，是搜索空间扩大。

距离一个能自主设定目标、自主获取资源、自主突破物理限制的存在，差着很多层。

圆方相信技术迭代会继续。

芯片会更快，模型会更大，推理会更便宜，工具会更多。

AI会进入办公、教育、医疗、制造、娱乐。它会改变很多岗位的工作方式。

它会创造新岗位。它会淘汰旧技能。这些和蒸汽机、电力、计算机、互联网带来的变化属于同一类。

人类适应

人类调整

人类重新分配利益

但所谓硅基替换碳基，放在物理世界看，连基本的能源、维护、材料、供应链都绕不开人。

08

头部AI公司放出AI即将统治人类的消息，其实就是一个末日叙事（西方一直以来，文化中就有末日叙事的习惯）

其出发点圆方猜测可能是想最后再爆炒一下AI股票的价值，让市场接盘。

毕竟末日越近，估值越高，融资越急，接盘的人越怕错过。

等说法讲到尽头，大家会发现，

AI还是AI

工具还是工具

技术会持续迭代和进步。

蒸汽机就是蒸汽机

电力就是电力

计算机就是计算机

AI就是AI

圆方相信AI会改变世界

圆方不相信AI能替换掉人

所以圆方说这一波AI革命，可能到头了。

这个到头，是叙事到头，是估值到头，是狂热到头。

技术不会到头

技术会继续往前走

人也会继续往前走

如果今天这篇文章，给了你一些不一样的思考，也欢迎小伙伴们分享给身边关心AI、科技和未来的朋友。