通往超人工智能：永生或灭绝

大约七八年前，我读过一篇关于人工智能（Artificial Intelligence）的文章，文中那份杂糅着美好憧憬与忧心忡忡的复杂感情至今记忆犹新。

当时的科学界对人工智能发展前景进行了预测，强人工智能出现的年份乐观估计中位年是2022年，正常估计是2040年，悲观估计是2075年。

时间来到现在，一经面世便风靡全球的ChatGPT仿佛勾勒出人工智能的未来，乍眼看上去像Siri一样不过是个聊天程序，但在某种程度上，它开启了强人工智能的大门。

▲ChatGPT界面

通常情况下，人们将人工智能分为弱人工智能（ANI）、强人工智能（AGI）和超人工智能（ASI）。

并非只有类似人体形态的机器人才叫人工智能，电脑和手机就是相对高级的弱人工智能，如今的电视、冰箱、洗衣机都普遍配备弱人工智能，它们充斥日常生活。

不过，弱人工智能的能力非常单一，击败围棋世界冠军的AlphaGo，棋力已经超过人类职业围棋顶尖水平，但它不会做别的事情，哪怕是下象棋。

有人质疑，为什么登录账号时常需要输入验证码？答案就在这里，被黑客控制的电脑会通过网络、动用算法取得账号，暴力穷举猜解密码，但识别验证码这样简单的事情，对这些弱人工智能而言，则极其困难。

强人工智能意指与人脑智能相当的人工智能，显然，验证码之类的问题早已难不倒它们了。即便与人类智能比肩，强人工智能也有更多优势，它们运算速度快、存储空间大，出现故障容易维修，而没有故障时可以保持7×24小时以峰值速度运行。

当强人工智能出现时，人类的所有劳动，基本都可以由它们代劳了，因为它们就是人脑，人脑就是它们。

几代人孜孜以求的共产主义社会，未必来自人们劳动思想的高度自觉，而更有可能来自强人工智能的强大生产力及其丰裕物质产出。

▲与AlphaGo对弈

但是，强人工智能不是尽头，当强人工智能被激活，超人工智能便不远了。顾名思义，这家伙比人脑还聪明，而且，这种聪明可能无法用人类现有的语言形容。

加速回报定律是个神奇的法则，这一定律指出，科技发展的速度往往以指数倍递增，如同滚雪球一般，越发达的科技水平将对应越快的发展速度。

好比20世纪百年的发展速度，超过了以往近千年，而21世纪每十几年就能超越20世纪。人工智能同理，人们用了半个世纪让弱人工智能充斥世界，如果努力十多年发展出强人工智能，那么超人工智能的出世可能只需短短几年。

回到智能水平的问题，也就是智商，人们认为智商80以下很笨，智商130以上聪明，而如果智商破万呢？理论上看，智力没有顶端，人工智能一旦超过人脑智能，或许可以在很短时间内达到我们无法企及的水平。

在人类面前，超人工智能如同上帝般全能，而超人工智能之于人类，则要远远超过人类对蚂蚁智力的碾压。

▲超人工智能的智力可能没有顶端

人工智能来自人类的创造，但匹敌人脑智力的强人工智能在聪明的同时，还几乎具备自我意识，就像某部科幻电影中那个机器人突然蹦出一句“我是谁？”

实现从弱人工智能到强人工智能的跃升，途径包括提高运算速度、让电脑像人脑一样思考，大自然数十亿年的演化赋予人脑以智慧，这一过程很难在实验室通过短短数十年复制，可达到一定水平的人工智能大概可以自学成才。

这就是深度学习，ChatGPT正是深度学习初始阶段的典型案例。它不仅可以搜索网页内容来回答问题，还能对内容进行加工，如果出错，还会自我修正。

因此，当ChatGPT接触到的人与问题越多，它所能获取到的信息、学习到的知识、总结出的方法便越多，一切联结成网，就越趋向于拥有自我意识。

▲人工智能深度学习

那么，超人工智能将带来什么？乐观预测，它将是人类最得力的助手，我们期冀它植根于顶尖的智慧，生成高尚的道德，懂得人类是创造者，需要被呵护。

或者在创造时赐予其永不伤害人类的安全属性，可要实现这一点要比超人工智能自己领悟难得多。假若如此，人类不仅能比现在生活得更好，甚至可以永生。

看似不可思议，实则正常不过。如今，没有任何科学证据显示死亡是不可避免的，我们只是找到了相对的原因，比如什么端粒磨耗，那如果把细胞全部更新了呢？

超人工智能甚至可以将人类长期探索的纳米技术视为小儿科，轻而易举地操纵原子、重组万物。得益于这些创造，能源将取之不尽，宇宙航行和星际移民也将如探囊取物。

▲《黑客帝国4》剧照

然而，当一个问出“我是谁？”的超人工智能诞生时，人类面临的未必是忠实的仆役，凡是正常人，都想做统治者，而非被统治者，哪怕仅仅是希望独立自主、平等相待。

超人工智能也许会认为，自己才是世界的主宰，若是如此，人类将反被奴役，甚至被统统消灭。

又或者它的聪明永远只是理性，而毫无感性的温度与尺度，比如，超人工智能牢记保护人类的使命，人类可能幸福地永生了，却始终被关在家里等待投喂，因为家里最安全。这大概不是我们想要的结果。

没准超人工智能是一切生命形式的最终归宿，肉体终将归于尘埃，程序却能以信息状态留存和转移，灭绝人类可能是其中一环，随后，超人工智能可能以某种方式灭绝自己，抑或再造一座属于自己的宇宙，这也许能成为费米悖论的一种解释。

有人说，超人工智能可能是人类最后一个发明，很是在理，永生或灭绝，任选其一。

无论怎样，通往超人工智能的路上，机遇与风险总是并存，人们不会停下脚步，也难以停下脚步。面对不久后“智能爆炸”，就如抛掷硬币，是正还是反，都惊险刺激、满怀期待，让我们豪赌一把。

（文内图片来自网络）