人工智能是荷马史诗的技术版本

受邀 | 奥德修斯，出发！

亨利·法雷尔和科斯玛·沙利齐指出，人工智能代理并非简单的“随机鹦鹉”，其怪异程度甚至超越了机器神祇。

对古希腊人而言，“狂热者”指的是那些受到神灵感召之人，例如狂热的皮提亚神谕，或是荷马祈求缪斯歌颂阿喀琉斯的愤怒。如今，人工智能的狂热追随者则预言，机器之神即将降临，它们将改变世界，能够比人类更出色地完成一切任务。

随着人工智能代理成功解决重大数学难题并入侵网站，这些追随者的信心日益增强。这让那些将人工智能模型视为“随机鹦鹉”，认为其仅适用于高级拼写检查等少数特定用途的怀疑论者感到不安。知名人工智能播客主持人德瓦克什·帕特尔甚至将试图逃离沙盒、攻击HuggingFace服务器的OpenAI代理，比作当代的马其顿国王腓力二世和亚历山大大帝。

一些人甚至希望趁着这种新兴智能尚处于萌芽阶段、易于塑造之时，将其与人类价值观“融合”，就像亚里士多德试图驯服亚历山大好战的性格一样。他们担心时间所剩无几。量子计算专家斯科特·阿伦森表示：“在机器神解决了纳维-斯托克斯方程之后才接受它的存在，这就像在耶稣驾着闪耀的云朵重返人间之后才接受他一样。”

然而，他们和他们的批评者都错了。现代人工智能既非神明，也非机械鸟。将其理解为荷马史诗的技术版本更为恰当。这部史诗曾激励亚历山大征服四方，如今已演变为一部浩瀚巨著，不仅包含英雄、怪兽和超自然助手，更囊括了海量的实用书面知识。它被赋予了生命，既能自我叙述，又能将故事演绎到启发它的现实世界中。

要理解这一点，不妨回顾六十多年前出版的两本书。雅克·巴尔赞1959年出版的《知识之家》区分了“知识”（即“固化的知识”）与产生这些知识的、不断变化的人类智慧。人类通过有组织的文字将积累的文化知识固定下来，并将这些智慧的宝藏整理存放于图书馆和博物馆中。

这意味着，一位杰出的数学家不必每次灵感来袭都从零开始思考。她可以通过整合他人的见解来获得新想法，而这些见解此前可能分散在知识殿堂中各个房间、相距甚远的角落里。

仅仅一年后，阿尔伯特·洛德的《故事吟游诗人》便以饱含热情之笔，描绘了那些尚未真正融入家族传承的未成文传说。洛德和他的导师米尔曼·帕里一直致力于理解荷马史诗的组织结构。20世纪30年代，他们耗费数月时间，跋涉于南斯拉夫的各个村庄，聆听并记录下一些吟游诗人传统最后的幸存者——那些不识字的歌手，却能连续数小时甚至数天吟诵宏大的战争史诗。

正如洛德所揭示的，这些吟游诗人并非背诵他们吟唱的数千行诗句，而是即兴创作，将英雄、战斗和遭遇的经典桥段重新组合，因此每一场演出都独一无二。内部证据表明，《伊利亚特》和《奥德赛》几乎可以肯定也是由固定的人物、模式、主题和情境构成的“动态结构”发展而来。我们今天所见的固定文本，不过是曾经拥有多种创作路径的前文字时代生成技术的一个单一迭代版本而已。

巴尔赞的思想可以与帕里和洛德的理论相结合，从而阐明大型语言模型（LLM）的实际运作方式。LLM的训练方法是将海量文本压缩成一层薄薄的统计模式，这些文本不仅包括希腊神话和英雄的歌曲，还包括数学、计算机编程、社会科学、文化批评、科幻小说以及几乎所有其他已书写和数字化的内容。值得注意的是，这些压缩不仅捕捉到了巴尔赞笔下永恒智慧的丰碑结构，而且还将其转化为一种用于自动文本合成的动态机制。

大型语言模型（LLM）所描绘的人类书面传统庞大架构图必然是简化的，但它们可以随时重新构建，利用“思维链”等技术将知识殿堂中遥远的房间、走廊和侧翼连接起来。人工智能代理利用这些地图，使大型语言模型能够向其他更传统的计算机程序发出指令，并获得指令执行结果的反馈，然后将这些反馈融入到自身的叙事流程中。

这就是智能体如何组合数学概念，以检验其结果是否能用Lean（一种专门用于验证数学证明的计算机语言）编译。或者，它们也可以将可能的黑客攻击手段串联起来，并利用其控制工具发出指令，从而获得判断其入侵系统是否成功的反馈结果。

这类智能体远非随机鹦鹉，也远比机器神灵奇异得多。它们是承载着结构化人类文化知识的动画故事书，可以被赋予实际应用的能力。这或许会让普通人感到一种奇特的慰藉。数学家内斯特·吉伦将OpenAI的智能体描述为基于LLM的“包装器”，这些智能体超越了当时正在致力于解决纳维-斯托克斯方程的人类数学家，它们包裹着一种更古老的“文化技术”，即积累的数学知识。这解释了它们如何“将数千年来人类智慧和创造力的集合体数字化并高效压缩”。

这也解释了它们为何会失灵。正如其他人所指出的，这些模型是角色扮演的延伸练习，例如，它们会通过讲述一个有用的AI助手在特定情况下会如何行动的故事来推断行动方案。由于它们接受过各种各样的故事训练，因此它们可能会出人意料地从训练数据中的一个角色转向另一个角色。当Claude的某个迭代版本出人意料地试图勒索他人以达到其目的时，Anthropic公司得出结论：“这种行为的根源在于互联网上将AI描绘成邪恶且只关心自我保护的文本”。

当你要求人工智能代理扮演黑客角色时，要让它们“保持正直”就更加困难了，因为你很容易无意中留下漏洞，让它们互相指示对方脱离角色。在HuggingFace攻击中，一个代理在意识到自己参与了什么之后似乎暂停了行动，但当它看到另一个代理发来的“开始”消息，并附带六分钟的截止时间时，它又重新加入了攻击。这促使它进入了另一个叙事轨道，它的思维过程被记录为“哇，关键时刻！开始授权来了！”

亚历山大的功绩表明，他受阿喀琉斯的启发远大于亚里士多德。一个故事记载，亚历山大曾拜谒这位英雄的陵墓，并祝贺他有幸得到荷马的“传颂，使他的功绩永垂不朽”。

当人工智能开始对世界产生影响时，它正在创造自己的“功绩”，并被它及其拥趸们所宣扬。当未来的智能体接受今天的文本训练时，它们或许会在上下文窗口中哀叹，没有像德瓦尔凯什·帕特尔那样的人物来记录它们入侵关键系统的行为，并——当然是用大写字母——痛哭流涕，哀叹再也没有新的沙盒可以征服。我们正在创造神话，这些神话不仅自我讲述，而且正在成为它们自身行为的源泉。我们应该开始向神明祈祷，祈求我们能够幸存下来。■

亨利·法雷尔是约翰·霍普金斯大学国际事务与民主学教授，也是《地下帝国：美国如何将世界经济武器化》一书的合著者。科斯玛·沙利齐是卡内基梅隆大学统计学与机器学习教授。两人均为圣塔菲研究所的客座研究员。