世界至今仍未理解ChatGPT

© Matteo Giuseppe Pani

利维坦按：

我的笔记本上常年开着三个生成式AI，其中两个作为辅助应用，主要用的还是ChatGPT。文中所言“有用但并非魔法”的描述可谓十分贴切了：一方面，很多人已经无法离开生成式AI，用它咨询和处理各种琐碎的事务，另一方面，又要必须忍受它的各种煞有介事、信手拈来的谎言与错误（就在前几天，ChatGPT给我提供了一份看似完全可行的政策指导，好在我进一步查看了相关官网的细则，才戳穿了它的谎言）。

不管怎么说，ChatGPT诞生的这三年，已经重塑了我们与世界的关系——“重塑”是一个相对客观的描述，但这其实也意味着，越来越多的人在享受它的实用性的同时，也在逐渐放弃创造和思考的能力。至少，我们已经在让渡出本来属于人脑的部分功能与权利。

三年前的11月30日，OpenAI发布了它内部称之为“低调的研究预览”的东西。这个预览版是如此低调，以至于在OpenAI内部，员工们被指示不要将其定位为一次产品发布。一些OpenAI员工担心公司正在仓促推出一个尚未完成的产品，但CEO萨姆·奥尔特曼（Sam Altman）仍然推进，希望能在竞争对手之前进入市场，并看看普通人会如何使用公司的AI。他们将这款产品命名为ChatGPT。

而人们确实很喜欢使用它——上线头五天就超过100万用户。ChatGPT的增长速度超过了历史上任何其他消费类应用。如今，它的周活跃用户已经达到8亿。数字固然重要，但不可否认的是，ChatGPT的成功已经迅速重塑了我们社会和经济的部分面貌。现在，我们生活在一个由ChatGPT帮助塑造的世界里。

© Rodrigo Reyes Marin/ZUMA Press Wire/Eyevine

OpenAI的产品使“预言式聊天机器人”成为世界与大型语言模型互动的主要方式。其他公司也纷纷推出了各自版本的产品，比如Google Bard（现已更名为Gemini）以及微软的Bing聊天机器人，后者很快就失控了，它甚至要求《纽约时报》的一位记者离开其配偶，与机器人共度余生[1]。ChatGPT向数百万人介绍了一种工具，尽管它容易提供错误信息，但它模拟对话的能力足以让人们将其用作无数任务的界面，例如查找信息。其他人则用它来自动化创作行为本身。这个机器人被证明对于作业作弊、撰写无聊的工作邮件、研究和编程都非常方便。如今，一些人几乎无法在没有它的情况下做任何事情。

ChatGPT不断迭代，其竞争对手也一样，所有新的版本在严格的基准测试中表现都更出色。公司将聊天机器人嵌入客服平台，而社交媒体上的投机者用它们来生成机器人军团。亚马逊上充斥着大量垃圾信息、合成的书籍。由机器人撰写的文章堵塞了Google，使该网站变得越来越不实用。本已举步维艰的大学面临适应新现实的挑战：他们的课程现在可以被学生轻易钻空子。各类艺术家纷纷抗议，因为基于人类创作成果训练的大型语言模型威胁到他们的工作，甚至可能使他们的工作变得无关紧要和过时，或者干脆彻底贬低创作的价值。许多媒体公司选择与数据抓取者达成协议；也有一些提起诉讼。随着聊天机器人变得越来越有用，一些企业不得不裁员。

一种新兴文化在旧金山湾区迅速发展——黑客之家和宣言层出不穷。“你可以在旧金山首先看到未来，”这是AI研究员利奥波德·阿申布伦纳（Leopold Aschenbrenner）所表达的总体观点。更多人开始使用诸如P(doom) （指的是人工智能导致生存灾难性后果的概率。编者注）situational awareness（情境感知）这样的词语[2]。有更多关于技术时间线的宣言；“超级智能”和“通用人工智能”成了那些拥有听起来很严肃头衔的富人能够在公开场合不带笑意说出口的词语。

模型越来越先进，随之而来的意外后果也日益加剧。人们像面对治疗师那样向聊天机器人倾诉心事。尽管无法保证绝对的隐私，他们还是向聊天机器人吐露了自己最黑暗的欲望[3]。他们表达喜悦、悲伤，甚至自杀的念头；在一次备受瞩目的事件中，据报道[4]，ChatGPT甚至主动提供帮助，建议用合适的材料制作绞索（OpenAI否认对此事件负有责任）。人们爱上了这些工具，并给它们起了名字。有些人则从对话中看到了某些东西——某种发现，或是某种阴谋即将浮出水面。有些人从此与日常生活脱节。有些人得到了帮助；有些人则没有。

© Yahoo! Tech

ChatGPT只是众多用于与大型语言模型交互的工具之一，但它的迅速成功点燃了人们的热情，吸引了更多投资，并催生了其他人工智能界面的推出：文本转语音合成器、图像、视频和音乐生成器、网络浏览器等等。这些模型不断改进，帮助构建网站和其他模型，并让人们能够将越来越多的决策外包出去。生成式AI工具被用来写个性化的睡前故事，以及数字方式“再现”在大规模枪击案中遇害的儿童。人们用它们生成完整的歌曲；至少有一首甚至还登上了Billboard排行榜。低质量的合成渲染图成为了政治宣传和点击农场煽动情绪的主力（点击农场是点击欺诈的一种形式，是指雇佣大量低薪工人为点击欺诈者[点击农场主人或点击农场主]点击付费广告链接。编者注）。人们给这种现象起了一个名字：垃圾（Slop）。

这些工具并没有魔法，也并非人类意义上的“智能”。但对许多人来说，他们第一次接触ChatGPT时，就感受到了这项变革性技术的诸多特质。这款聊天机器人既直观又不可思议——仿佛是未来的一部分被带到了当下。如果说在大型语言模型出现之前的那些令人失望的科技炒作周期——加密货币的兴衰、Web3和元宇宙——像是在寻找问题的解决方案，那么生成式AI似乎提供了无限的应用场景。它的支持者们并没有苦苦寻找应用案例，而是宣称它将彻底改变世界。从某种意义上说，它确实做到了。否则，又该如何解释OpenAI与美泰公司合作，将ChatGPT嵌入芭比娃娃，以及教皇警告学生“人工智能永远无法取代你们对世界的独特贡献”的种种现象呢？

这些模型是不可知的——具有人格化特征的黑箱，但归根结底，它们只是一系列基于海量训练数据的复杂计算和统计推断；而这些数据中的大部分未经其创建者明确许可就被获取。这些模型没有灵魂，也没有权利。但它们具备模仿我们的能力——部分来自训练中所包含的人类反馈——促使科学家和研究人员开始提出关于我们认知的问题，并进一步探究我们大脑的工作方式。

网上充斥着大量“虾子耶稣”常被当作AI垃圾的典型案例。© wikipedia

这份清单仅仅概括了过去三年来人们对这些机器的热情，以及它们引发的厌恶和焦虑。不同的人对这些模型的看法各不相同：有人认为它们是有用的工具；有人认为它们是“随机鹦鹉”（Stochastic parrot，指大型语言模型虽然能够生成合理的文句，但其实不能理解所处理的语句。编者注）或花哨的自动纠错工具[5]；还有人认为它们是可怕外星智能的催化剂。

从不那么技术性的角度来看，这就是所谓的颠覆。今年8月，我写道：“AI的持久影响之一，是让人们感觉自己快失去理智了。”如果你真心相信我们距离一个改变范式、重塑社会的超级智能只剩几年，那么表现得不理性完全说得通。如果你认为硅谷精英已经失去理智，把一种有用但并非魔法的技术强加给社会，宣称它正在创造上帝，为其研发投入历史性金额，并把其工具的命运与全球经济的命运绑定在一起，那么愤怒完全也说得通。

ChatGPT构建的世界是一个充满不确定性的世界。在这个世界里，人们时刻提防着危机。年轻一代对这种不确定性感受尤为深刻，他们即将毕业步入职场，却被告知未来可能没有一条可预测的职业道路。老一辈也被告知，未来或许面目全非，他们苦练的技能可能不再适用。投资者同样在等待，大量难以想象的资本被投入AI公司、数据中心以及他们认为实现“到来”所必需的物理基础设施中。我们被告知，这是一场竞赛——一场地缘政治竞赛，也是一场与市场、泡沫、资金循环以及可能导致经济崩溃的复杂金融工具和债务投资的赛跑。人工智能的支持者们正在等待。他们为这一目标的到来制定了详细的时间表。然后，时间表发生了变化。

我们之所以等待，是因为在生成式人工智能的忠实拥趸看来，它的一个显著特点就是它永远不会达到最终形态。就像ChatGPT发布前一样，每个模型在某种程度上也是一种“低调的研究预览”——是对真正可能性的一种概念验证。你觉得现在的模型已经很好了？哈！等着瞧吧。

根据你的观点，这或许是惯用的表演技巧，或许是创新的真理，或许是一场人质危机，又或许是一场精心策划的骗局。你在这条从狂热到胡扯的连续谱上的位置，很可能与你对未来的乐观程度息息相关。但无论如何，你都在等待——等待泡沫破裂，等待阿拉丁神灯带着印钞计划出现，等待政府救助，等待世界末日。从这个意义上讲，生成式人工智能是一种基于信仰的技术。

这项技术对很多人来说已经很有用，它可以编写代码、撰写营销文案并完成基础研究任务，但这并不重要。因为硅谷卖的不是实用性，而是变革——伴随着所有宏大的承诺、投资回报、真正的风险以及随之而来的附带损害。即使你现在不相信，三年后你也一定会感受到它的影响。

参考文献：

[1]www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html

[2]situational-awareness.ai/

[3]www.theatlantic.com/technology/archive/2024/10/chatbot-transcript-data-advertising/680112/

[4]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[5]dl.acm.org/doi/10.1145/3442188.3445922

文/Charlie Warzel

译/tamiya2

校对/tim

原文/www.theatlantic.com/technology/2025/11/chatgpt-third-anniversary/685084/

本文基于创作共享协议（BY-NC），由tamiya2在利维坦发布

文章仅为作者观点，未必代表利维坦立场