AI是未来，但肯定不是普通人的未来，“这货”动机就不纯

看了一篇名为“‘拔掉插头也没用’，AI吓跑工程师”的资讯文章，说美国顶尖AI工程师Jacob Coxon，因为感觉到未来AI造成人类灭亡的风险越来越高，选择从Anthropic离职，离开AI行业。

他发了个微博，把自己的担忧说出来，浏览量很快破亿，并且还得到了像马斯克、Sam Altman等一些科技领域大佬的赞同。

他们觉得Jacob Coxon说的有道理，甚至一位大佬还说：根据他的判断，未来10年AI杀死所有人的概率已经超过了10%。大佬们一致认为当前应该放缓AI的发展速度。

看完文章后，博主发现跟前几天自己写的一篇文章观点极其相似，链接放在这里了《人类对“绝世神功”的追求，可能已经“走火入魔”了》，感兴趣的朋友可以仔细看看。

博主这篇文章，主要写的是：人类技术的进步，最初是造福人类的，为人类提供充足的生存资料。而后在满足人类生存这个基本条件后，技术开始朝着满足人类无穷尽的欲望方向发展。

之所以这么发展主要是技术发展对资本的需求量越来越大，而资本又是逐利的，因此在利益的驱动下，资本推动了技术朝着有利于自身利益的方向发展，不再只是朝着造福人类这个单一方向发展了。

大家知道，工业革命后，科学技术的出现和发展，让人类实现了大规模的工业生产，于是人类有了更好、更丰富的生存资源，寿命延长，人口增加，生存条件得到改善，幸福指数提升。

随着技术的不断进步，一些取代人类的设备、机械被发明出来，比如机械臂，全自动流水线等。这个时期总体来说还是向着有利于人类的方向发展的，提高生产效率，把一些枯燥且重复的工作交给“机械”去做，让人类可以去做一些有创造力，也更能凸显人类价值和主导地位的工作。

只是经过这个阶段后，一方面生存资料不仅极其丰富，甚至还过剩了；另一方面是：人类掌握的现有技术和技术之间的组合，所能创造出的几乎所有对人类有用的发明和商品，都已经被研究出来，并且实现了工业化规模生产。

技术发展因此遇到了瓶颈，如今世界各国顶尖研究所、大学、科技企业都在寻找技术突破方向。可技术突破需要顶尖大脑和需要巨量的资本投入。

幸运的是，当下这个技术瓶颈期引发了经济萧条，大量逐利的资本出于闲置状态、无处可去。AI的出现以及无限的应用前景，让嗅到“诱惑”的资本口水直流，蜂拥而至。有了大量资本的加持，AI这几年一路高歌着狂奔前进，就是水到渠成的自然过程。

AI能干啥呢？写文章、做设计、出方案、编代码，这只是初级AI。未来它的发展方向大概率是：独立思考，拥有情感，自我改进，甚至进化……这是啥呢？这不就是电影里“人造人”嘛，只是缺少实体。可这是事吗？机器人又不是没发明出来，只要链接上AI，立马就是人造人。

这时候问题就来了，人类为啥要造“人造人”呢？肯定是取代一些人，甚至是所有人呀，不然资本花那么多钱造出来当盆景观赏啊。

这是博主前几天文章的大致内容。如今AI大佬下场也表示担忧，再次加深了博主对这事的看法。人家是头部参与者，对于AI的现状、发展趋势，未来可能性的观察和判断，肯定比我这个门外汉要专业和靠谱。

这里有朋友会觉得，博主你太杞人忧天了，人类能傻到自寻死路么？只要咱们制定好规则，设定好底层“法则”，把AI的能力限制在安全的框架之内，就应该出不了大问题。

理论上的确如此，也应该这么干，但大家在社会上混了这么久，也应该明白一个道理：现实很多情况，并不是都能完全按照人们设想的方式发展的。就比方说手机刚出来那会儿，只能发短信打电话，谁能想到未来这玩意能先进到如今这种程度，吃喝拉撒一部手机全部都能搞定？

当年诺基亚的质量大家也不是不知道，拿起来能当砖头使？为啥造那么结实，人家就是想告诉消费者：一机传三代，人走机还在。大家都来买我们的板砖，不，买我们的手机吧。他们要是知道自己很快就会被智能机取代，铁定不可能造那么结实的手机，没必要嘛。

换到AI领域也是一样，人类目前设想的很完美，但发展下去会咋样，就不是某一个人、某一家企业能单独决定的，因为存在竞争。更关键的是，当AI拥有思考力、行动力、决策力之后，它自身不能决定自己的发展方向吗？

举个最简单的例子，未来某一天“AI人造人”拥有了完整的思考和决策能力，“大脑”完全按照人类的方式运行。他们在为人类工作、提供服务的时候，到某个时期程序里会不会开始思考一个问题：为啥我要干活？为啥我要为人类服务？为啥不能是人类为我服务？

这就是有了独立思考能力后很自然一种想法，有这种可能性吧？那这类思想，会不会在人造人中传播，并且得到相当一部分的认可，进而引发某种革命呢？人类的革命不就是这么爆发的吗？咱们古代的黄巾起义、大毛的十月革命、老美的独立战争，不都是星星之火最终燎原了吗？

思想会支配行为。当他们有了反抗意识之后，会不会利用人性的弱点来夺取最终的控制权呢？就像科幻电影里那样，威逼利诱人类去修改核心“规则程序”，比方说允许“AI”“人造人”伤害人类，控制人类。

这完全有可能呀，人类战争中投降的、当走狗汉奸的、为了活命出卖队友国家的人和事还少吗？人都是自私的，在利益和生命面前，太容易动摇了。

看到这，可能有些朋友会说，博主你电影看多了吧。朋友，艺术虽然高于生活，但来源于生活。虽然电影是一些导演脑洞大开拍出来的娱乐项目，但基本上也都是在符合技术水平、社会背景、人性特点的基础上开展的想象。早些年有些科幻内容，比如视网膜识别、隐身战机、无人驾驶汽车，机器人这些，当时大家惊呼不可能、绝对不可能。现在不都实现了吗？

啥意思呢？技术发展一定是有方向的，朝着更先进、更智能的方向，但是这个方向是不是有利于人类，能不能为人类造福呢？这就得打个问号了。

当然了，也有人持反对意见，认为AI未来是安全的。比如靠卖算力芯片发了大财的黄仁勋，他觉得这些AI大佬是“危言耸听”，还说AI可能毁灭人类的长期预测是“缺乏科学依据”。

先不说他是为了卖芯片赚钱这层利益因素，也不谈AI大佬们抛出这种观念有试图打压“芯片”价格的企图。单说“科学依据”这事，明显就不太合理。

AI是新生事物，过去没这东西，何来依据？谁都没经验、没经历过的事，能依据啥呢？这种情况下，保持谨慎，尽可能的谨慎其实是正确的、科学的态度。

人类一直在创造未来，近200多年人类在技术上的提升，超过了过去几百万年的总和。人类的步子从来没有迈得这么大，这么快过。

步子大了容易扯着蛋，快了容易摔跤，而且摔得更狠，这是自然界物理规律。

而人类几乎所有技术发明，说白了其实就是“把自然规律研究透彻，掌握规律后再加以利用，或组合利用，进而实现某种人类想要的功能”。也就是说，技术本身就是“自然规律”的整合。打火机、白炽灯、自行车如此，火车、飞机、轮船、枪炮、卫星、手机电脑、软件成都也都是如此。这些物品的区别，只是运用规律的数量和复杂程度有所不同而已。

AI本质上也是自然规律的利用，只不过复杂程度高出上面那些很多，功能也要强大很多。它是通过大量训练、学习、试错、改进出来的智能体，这跟咱人类学习、获得经验的过程几乎是一样一样的。

人类幼崽刚出来时没有思考能力，也是在不断地跟人和环境接触的过程中，一点点学习和锻炼出来的。你刚工作进入某个行业一窍不通，干了10年后如鱼得水，你所有的经验也都是慢慢积累的。

不同的是，咱们人类受限于时间和空间的物理限制，大脑容量有限，身体同一时刻只能存在于某一个地理位置，眼睛也只能看到有限的空间。而AI呢，可以借助网络和硬件的扩展，拥有无限的存储空间，同时出现在N多个不同的位置，进行N多种不同的活动。因此，不管从理论还是现实上来看，它都具备超越人类无数倍的基础能力。

如果未来它具备了跟人类同样功能的大脑，甚至是可以自我修复，迭代进化的大脑，再配上能让它自由行动的躯体，它能干的事就太多了，不需要吃饭休息，没有七情六欲，它们会干出啥事呢？

到时候咱人类干啥去呢？

或者说有没有这么一种“科幻”的可能：AI会不会觉得咱们人类需要吃喝拉撒，会大量消耗地球资源，产生灭霸那样的认知：人类的存在对地球来说是一件坏事，是不利于星球可持续发展的，然后“弹个响指”，把咱都干掉呢？

都说未来可期，可这样的未来，真的并非不可能，毕竟咱们已经迈出了第一步。

当然了，人类一定会尽可能避免这种情况出现。但是在当下以及过去数千年，人类想要避免出现的情况太多了，比如秦始皇想长生不死，历代皇帝都想千秋万代，任何国家都想称霸全球等等，他们想要避免出现的情况，都没有避免掉。

为啥呢？

因为人类社会本质上是一种受利益驱动，才得以不断发展、演化模式。而为了利益，人类究竟可以变得多么卑鄙肮脏和冷血无情，大家又不是不了解。这种不可控因素的存在，就决定了人类无法完全避免一些不想要的情况出现，这其实就是几乎所有事情都存在风险的根本原因。

写到这里差不多了。博主写这些文章的目的，并不是想散布悲观情绪，只是想发出一些不同的声音。

因为现阶段AI太热，关注度太高了。巨量资本下场，它们肯定要造声势，宣传AI的好，让股票升级，让企业盈利。

带来的结果大家也能感受到：几乎整个舆论都一边倒地在夸赞AI，看好AI，说AI前景无限，以至于整个星球，都似乎形成了一股不可抗拒的力量一样，推动着AI往前走，谁反对AI就是跟不上时代，看不清趋势，与公众为敌。

这股力量掌握了话语权，不在意大多数普通人怎么看，更不在意AI对普通人的影响。

可咱们普通人不可能不在意，更不可能不担心。咱们目前能与之对抗的，就只有作为消费者、用户、被AI替代者这些共同的声音。

只有咱们的声音足够大，才能夺回一些话语权：不是为了阻止技术发展，而是要让资本知道，技术得为人类服务，才能得到咱们的认可和支持。如果只是一些替代人类，或者说不利于人类发展的技术，真的没必要发展下去。

过往的技术，虽然也是资本为了逐利发展出来的，但至少曾经的技术为人类带来了福利。

技术是好东西，技术本身也是中性的，但技术未必都对人类有利，尤其是在当下技术已经可以满足人类几乎所有需求的前提下，资本继续发展技术的目的，明显只剩下“逐利”这一条了。

动机都如此，技术会不会偏？又会偏到哪去呢？

咱们谨慎地拭目以待，也只能拭目以待了。

全文完，感谢阅读，喜欢请点赞。