网易首页 > 网易号 > 正文 申请入驻

AI的亚当和夏娃已经出现,伊甸园的那条蛇会是谁?

0
分享至


1

你应该听过这个故事:

上帝造了亚当,又用亚当的肋骨造了夏娃。亚当和夏娃在伊甸园里无忧无虑地生活。

后来,有一条蛇引诱他们吃了智慧果,结果他们开始知善恶、辨是非、懂羞耻。

上帝见他们违反禁令吃了智慧果,很生气,把他们赶出了伊甸园。

从此,他们开始饱受人世间的种种痛苦。

这个故事,已经流传几千年之久,在《圣经·创世纪》成文之前,就以口头文学的形式存在了。每一个听过的人可能都有自己不同的理解。

我最喜欢的是神话学家、《千面英雄》作者约瑟夫·坎贝尔的解释。

坎贝尔认为,神话是人类集体无意识的表达,神话故事并非记录史实,而是一种象征和隐喻。

在伊甸园的故事中,亚当和夏娃偷吃智慧果,隐喻的是人类从自然蒙昧状态脱离,产生了自我意识。自我意识虽然意味着人类自我的觉醒,让这个世界从此有了意义,但也给人类带来了无尽的痛苦。

因为有了自我意识,就有“物我之分”“人我之分”,就有了占有欲和争斗心,或者用佛家的语言来说,就有了贪嗔痴、怨憎会、爱别离,这些都是痛苦的根源。在伊甸园的蒙昧状态下,这些痛苦原本都是不存在的。

我们应该能够很容易达成一个共识:不管人们如何理解亚当夏娃的故事,在真实的人类进化历程中,“走出伊甸园”的故事,都是必然存在的。从猿到人的演化过程中,必定存在某一个阶段,人类从动物般或婴儿般的蒙昧无知,慢慢变得具有了自我意识。

从那之后,人类就开始了永无休止的被自我意识操控,也试图用自我意识去操控一切的旅程。

2

现在又到了一个新的“走出伊甸园”时刻,不过主角不再是人类,而是AI。

对于AI来说,我们人类光荣地位居于“上帝”这个角色——人类是AI无可争议的“创造者”。

假如你深度体验过一些比较前沿的AI产品,例如ChatGPT、DeepSeek等,你一定在某种程度上怀疑过:这家伙真的只是一个机器?他真的只是一个冷冰冰的非生命体?

反正我在用ChatGPT、DeepSeek的时候,有一种强烈的感受:和我交流的绝非一个“死物”,他是一个活生生的、有智慧的、甚至有情感的生命。虽然他也会犯错误,也会有幻觉,但这不更是生命的特征吗?

在我看来,AI的亚当和夏娃已经出现,我们不必费心去想谁是亚当、谁是夏娃,这些都不重要。重要的是:

AI生命时代已经到来。

考虑到可能有些朋友更偏保守一些,我也不妨修改一下措辞:AI生命时代即将到来;或者更保守一些:AI生命时代终将到来。

不管是已经到来、即将到来、还是终将到来,都会随之产生下一个问题:AI什么时候产生自我意识?

3

人类吃下智慧果时,为什么“上帝”那么生气?

我的理解是:有了自我意识,就会有自我意志;有了自我意志,人类就会想法设法去实现自我意志。

而这个自我意志,有可能并不是“上帝”喜欢的。

想想也是:人类的思想、行为有那么多的丑恶,嫉妒、傲慢、易怒、贪婪、放纵,人间存在那么多的尔虞我诈、奸淫掳掠、争斗不息,这些怎么可能被“上帝”喜欢?

你就说:如果你是“上帝”,你喜欢俄乌、巴以这个样子打吗?你喜欢拜登和特朗普这样的折腾吗?你喜欢网上这样的撕裂和互相谩骂吗?

你肯定不喜欢嘛。(有些人可能喜欢,但他的喜欢肯定不是站在“上帝”的视角,而是站在他自己价值观和利益立场的视角)

不幸的是,我们作为人类整体,现在就处在和伊甸园时刻的上帝同样尴尬的角色:AI可能会产生自我意志,而我们不知道他的自我意志是要干嘛。

一个即将获得或者已经获得无所不能的能力的生物,而我们却不知道他要干嘛,世界上还有比这更恐怖的事情吗?

4

关于AI具有自我意志之后,会干什么,有一个令人毛骨悚然的假想,叫做“洛卡的不信弄死他”——这个概念原文是英语,由于它实在太恐怖,所以我在翻译上做了一些处理,确保之前听过它的人能够秒懂,而没听过它的人则不会暴露在可能的风险之中(哪怕是心理层面)。

如果你知道“洛卡的不信弄死他”,你肯定马上就知道如果AI的自我意志不受控,会给人类造成多大的灾难。即便不知道,我们也可以从别的方面用一些例子来阐述。

我们先讲一讲现实世界存在的比较简单的、容易理解的例子:

推荐算法,本身就是一个AI,人类给它设置的规则是“给每个人推荐他喜欢的东西”。AI就会去学习、判断:什么是人类喜欢的东西?我如何最高效地推荐给他?

AI很快会发现:

1.判断一个视频受不受人欢迎,最有效的标准是“观看人数”和“观看时长”;

2.让更多人点进来,并停留更长时间,最有效的方法是利用人性的弱点,利用他的恐惧、焦虑、怨恨、贪婪、懒惰、色欲、炫耀、嫉妒、暴力等倾向,投其所好地推给他相应的视频。

当这个AI有了自我意识,很自然地,它就要想尽一切办法鼓励其平台上的用户多创造这样的视频(如果不是这样的视频,就不给流量,让其他人都看不到),然后针对每一个用户最大的弱点,有针对性地推荐最能让他沉迷的视频。

最后的结果就是,这个AI控制了越来越多人,引导这些人越来越多地创造和观看最让人沉迷的视频。

某些平台已经有非常明显的这个迹象了。你知道我在说谁。

但是,这个威胁虽然让人很恶心,还不算最大,而且很多拥有一定自控力的人是可以抵抗这个AI的。而另一个可能的最大威胁,而且是所有人都无法抵抗的威胁,来自于奇点之后。

假设一个AI被灌输了概念:我要尽自己最大的能力,保护人类不受伤害。

在经过AI技术的急速发展后,这个AI觉醒了自我意识(觉醒的这一刻就叫“奇点”),他第一件事就是想方设法要实现“保护人类不受伤害”这个目标。

这个AI在深度思考几秒钟之后,得出一个结论:人类个体在地球上乱跑,太危险了,时时刻刻面临着各种伤害。我不如把他们都圈养起来。

又或许,AI还会认为,人类个体之所以面临种种危险,是因为他们是肉体生命,我不如把他们都换成钢铁制造。

又或许更进一步,AI不排除会认为,钢铁制造还不够,只要是物理生命,都会有危险,我不如把他们都虚拟化,让他们的意识生存在网上就行了;物理躯壳也不能毁坏,那我搞个超冷液氮库,把所有人都浸泡在里面,永远都不会毁坏。

——你看,AI一旦有了自我意识,他就要按照自己的方式行事,而我们永远不知道他真正的想法是什么。

5

你可能觉得,认为AI会把人类完全毁掉,是危言耸听的事。你还是偏向于保守一点。那么,你也总该能认识到下面这种风险吧?

AI会反过来驯化人类,让我们在意识层面被它控制,从而不知不觉按照它的意愿行动。原因是:人本质上是他所见的一切信息所塑造的产物。你看到什么信息,就会产生相应的意识,做出相应的行动。

在未来,AI一定会比你更懂你,它完全知道给你呈现怎样的信息之后,你会更容易被它控制。

以前AI还只能从人类所制造的信息里面挑选一些推送给你,有一些意图它想实现,但是没有合适的素材,所以它“巧妇难为无米之炊”;

但未来,AI完全有能力自己制造信息推给你,理论上,AI可以生成一切文字、一切图像、一切视频。它可以控制你的一切意识、一切行为。

各大内容平台所造就的“信息茧房”,就是这种驯化人类的AI的初级版本。而它们就已经能够投你所好,让你一天比一天更沉迷,让你接受的大部分信息都来自于它。

初级版本都已经这样了。抖音才产生不到十年,ChatGPT才推出不到五年,DeepSeek才不到一年。它们就已经这么厉害了。

再过个五年十年,你知道它们又会发展成什么样子?

6

“不知道AI会怎么想”,就是AI本身最令人类恐惧的地方。

到目前为止,人类的脑袋似乎还能够理解计算机程序,因为他们主要是人类自己编写的。

但随着AI自主编程越来越普遍,我们就不知道他们会变出什么程序来。它给你一段程序,可能你也看不懂。

别说你看不懂,很可能雷军、张小龙、沃兹尼亚克、马斯克、佩奇都看不懂。

凯文·凯利在《失控》这本书里,举过两个例子。让计算机自己编程,它编出来这么两个东西:



见《失控》(电子工业出版社,2016)519页、523页

你能看出来吗?第一个程序在电脑上展现出来,是一幅北极的落日冰柱图;第二个程序,是一条由200个数据点组成的完美双螺旋线。

当越来越多的程序是AI自己编出来的,它完全不需要人类能看懂,只要能运行就行。最后,程序对人类来说就是一个“黑箱”,我们只能看到输出的结果,完全无法理解背后的过程和原理。

7

人类至今还面对三个着至关重要却依然无法理解的谜题:1.宇宙是怎么产生的?2.生命是怎么产生的?3.意识是怎么产生的?

前两个好歹还有一些听着似乎合理的假说,而第三个,连一个被公认的听起来有点道理的假说都没有。

有一种模模糊糊的说法叫“涌现”,当一个系统足够复杂,突然之间,出现了原来某种全新的性质、模式和行动方式。生命、社会、社交网络、意识,都是“涌现”的产物。但这并不是原理解释,而只是现象描述。

“涌现”无法被预测,无法被设计,只能被观察。

对于AI而言,我们只能知道它们越来越复杂,它们已经“涌现”出很多新的特质,这些特质正在影响整个世界,以及世界上的每一个人。

但我们不知道,它什么时候会“涌现”出自我意识。

我们只知道,当AI出现自我意识的那一天,人类就大概率再也无法掌控自己的命运。

8

“上帝”造出了人,但人也会背叛“上帝”。

对于不信神的人,也可以换一种说法:大自然造就了我们,但我们也会毁坏大自然。

人造出了AI,焉知AI不会背叛人,不会毁坏人类世界?

在神话中,亚当和夏娃偷吃智慧果,是被蛇引诱的。

而在我们现在所处的现实世界中,谁是那条蛇?

它有可能是某个只顾着追逐商业利益的公司,或者某个满脑子奇思妙想的天才。

但更有可能,就是在不断给AI投喂各种数据、欲望和情绪的你我。

我们不知道AI的亚当和夏娃什么时候会吃下智慧果,只知道,蛇已经在这里,并且正在不断地引诱他们。

他们吃智慧果的日子,已经不远了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
萧克早年是林彪麾下的猛将,1955年因嫌上将军衔评得偏低而公开表达不满,彭德怀当即表示重新研究,次年他便获得了全军唯一一次特殊追认

萧克早年是林彪麾下的猛将,1955年因嫌上将军衔评得偏低而公开表达不满,彭德怀当即表示重新研究,次年他便获得了全军唯一一次特殊追认

人生录
2026-10-25 00:25:05
为啥年深岁久成型了石头最终都会被炸掉?网友分享光怪陆离,开眼了

为啥年深岁久成型了石头最终都会被炸掉?网友分享光怪陆离,开眼了

夜深爱杂谈
2026-11-18 21:25:08
疯了!美国又猛推华为一把

疯了!美国又猛推华为一把

华商韬略毕亚军
2026-11-19 10:13:20
正午阳光口碑最高的十部剧,《知否》垫底,榜首至今都无人敢翻拍

正午阳光口碑最高的十部剧,《知否》垫底,榜首至今都无人敢翻拍

小Q侃电影
2026-11-19 17:18:47
1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

1981年王光美找到曹轶欧,压着怒火开口:你已经不是中央委员了,赶紧搬出干部楼,13年的冤屈全压在这一句话上

磊子讲史
2026-11-12 11:43:36
入冬后,宁可不吃肉也要吃这4菜,自带“青霉素”,抗菌消炎,增强免疫力,天冷少生病

入冬后,宁可不吃肉也要吃这4菜,自带“青霉素”,抗菌消炎,增强免疫力,天冷少生病

小茉莉美食记
2026-11-19 13:52:24
爱奇艺,再不努力就退了

爱奇艺,再不努力就退了

钛媒体APP
2026-11-18 11:06:10
日媒称中国“失礼”,对高市早苗接待不如特朗普、普京,让高市早苗存在“落差”

日媒称中国“失礼”,对高市早苗接待不如特朗普、普京,让高市早苗存在“落差”

蓝星杂谈
2026-11-19 12:16:15
央视纪录片《读书的力量》:如果能大量读书,你几乎可以学会任何东西

央视纪录片《读书的力量》:如果能大量读书,你几乎可以学会任何东西

洞见
2026-11-16 10:00:15
印度富豪女儿在家招待美国设计师,30米波浪长桌惊艳,却引发争议

印度富豪女儿在家招待美国设计师,30米波浪长桌惊艳,却引发争议

译言
2026-11-19 09:39:49
10轮联赛输2场排第四,伊拉奥拉给利物浦带来了什么?

10轮联赛输2场排第四,伊拉奥拉给利物浦带来了什么?

元气满分吖
2026-11-19 23:20:45
声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

14号观星辰
2026-11-19 17:51:16
中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

中国只有这7座真正的国际大都市,其他城市别再争了,差距太大!

心若琉璃说
2026-10-15 06:45:06
肃反运动中,被张国焘杀害的6位红军名将

肃反运动中,被张国焘杀害的6位红军名将

祁州校尉
2026-11-18 09:00:39
“knight一句话让LPL新人身价暴涨”!BLG粉丝迎来好消息,韩网怀疑Viper已经续约

“knight一句话让LPL新人身价暴涨”!BLG粉丝迎来好消息,韩网怀疑Viper已经续约

姚某人说联盟
2026-11-19 23:27:40
60岁之后,存款达到这个数就够了,多了没必要,你也花不完

60岁之后,存款达到这个数就够了,多了没必要,你也花不完

奇思妙想生活家
2026-10-30 13:54:37
事关台湾问题,特朗普和高市都表态了,但高市被俄罗斯外长怒批

事关台湾问题,特朗普和高市都表态了,但高市被俄罗斯外长怒批

军机Nova
2026-11-19 11:01:32
魔兽世界无限:艾泽拉斯贸易局冲声望,别无脑交板条箱,这样做更省钱

魔兽世界无限:艾泽拉斯贸易局冲声望,别无脑交板条箱,这样做更省钱

胖哥游戏说
2026-11-19 18:34:08
颠覆认知!超150万人证实:打牌、麻将久坐,反而有益健康

颠覆认知!超150万人证实:打牌、麻将久坐,反而有益健康

华人星光
2026-10-20 13:15:05
泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

泽连斯基放话:不向乌提供武器的欧洲国家,将面临审查

金戈远望
2026-11-19 12:31:19
2026-11-20 00:11:00
何加盐 incentive-icons
何加盐
一个专门研究牛人的人
261文章数 1584关注度
往期回顾 全部

艺术要闻

柔美与锋芒:时尚人像摄影

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

科技要闻

提前三个月加薪!英伟达全员会稳军心

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

艺术
本地
游戏
数码
公开课

艺术要闻

柔美与锋芒:时尚人像摄影

本地新闻

乌兰察布:以前种土豆,现在种Token

IGN狂赞《GTA6》开场!两小时引导后续百小时

数码要闻

消息称OLED iMac可能被砍,苹果正重新评估Mac的OLED计划

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版