ChatGPT 编造性侵丑闻，美法学教授躺枪

【编者按】在热火朝天的聊天机器人应用场景中，美国一位法学教授被ChatGPT指称有性侵劣迹，且有权威报纸《华盛顿邮报》的报道作证，实际却子虚乌有。《华盛顿邮报》北京时间今晨发表的题为ChatGPT invented a sexual harasment scandal and named a real law prof as the accused（ChatGPT 编造性侵丑闻，指责一位真实的法学教授）的文章，道出当下聊天机器人的荒唐和负面影响，值得深思。

ChatGPT会让代写简历之类工作岗位消失（New York Post）

上周某晚，法学教授乔纳森·特利收到了一封令人不安的电子邮件。作为一项研究的一部分，加利福尼亚州的一位律师同行要求人工智能聊天机器人 ChatGPT 生成一份曾对他人进行过性骚扰的法律学者名单，特利的名字赫然在列。

这个由 OpenAI 创建的聊天机器人说，特利在一次带领班级去阿拉斯加旅行的途中，有过性暗示表述，并试图抚摸一名学生。机器人引用《华盛顿邮报》2018 年 3 月的一篇文章作为信源加以佐证。 但问题是，并不存在这样的文章，也从未发生过这样一次去阿拉斯加的班级旅行。特利也说他自己从未被指控骚扰学生。

作为媒体的常客，特利有时会要求媒体更正新闻报道。但这一次，没有记者或编辑可供打电话要求更正，也没有办法更正已有的所谓记录。

“这真令人不寒而栗，”他在接受《华盛顿邮报》采访时说。“这种指控之危害令人难以置信。”

特利的经历是对最新一波语言机器人陷阱的案例研究，这些语言机器人凭借其编写计算机代码、创作诗歌和进行诡异的类人对话的能力而引起了主流媒体的关注。但这种创造力也可能成为错误主张的引擎；这些语言模型可以极大地歪曲关键事实，甚至可以捏造基本信源来支持他们的主张。

随着 ChatGPT、微软 Bing 和谷歌 Bard 等基本上不受监管的人工智能软件开始在整个网络上被使用，它们产生具有潜在破坏性的谎言的倾向引起了人们对错误信息传播的担忧，也引发当聊天机器人误导舆论时该向谁问责等新问题。

南加州大学安娜堡分校教授兼微软研究院高级首席研究员凯特·克劳福德说：“因为这些系统的反应如此自信，所以假设它们无所不能是非常诱人的，而且很难区分事实和谎言。”

OpenAI 发言人尼克·菲利克斯在一份声明中说：“当用户注册 ChatGPT 时，我们努力做到尽可能透明，因为它可能不会总是产生准确的答案。提高事实的准确性是我们的重中之重，我们正在取得进展。”

如今的 AI 聊天机器人通过利用大量的在线内容来工作，这些内容通常是从维基百科和 Reddit （一译“红迪网”，美国一种可以搜索并分析网上内容的社交网站——译注）等来源中搜集而来的，以拼凑出针对几乎任何问题的听起来似是而非的回答。 它们受过训练，可以识别单词句型和想法套路，以便通过整合在线发布的材料、语句、段落甚至整篇文章跟进对方的主题。

这些机器人可以制作关于热门话题的十四行诗，解释高级物理概念，或为五年级学生的天文学教学制定引人入胜的课程计划。如此种种，简直令人眼花缭乱。

但仅仅因为他们擅长预测哪些词可能一起出现并不意味着得到的句子总是正确的。普林斯顿大学计算机科学教授阿尔文德· 纳拉亚南将 ChatGPT 比作“牛皮生成器”（bulls--- generator）。虽然他们的回答常常听起来很牛，但这些模型缺乏可靠的机制来验证它们所说的话。用户已经发布了大量关于工具勉强应对基本事实问题甚至编造谎言的例子，包括用逼真的细节和虚假的引用来完成用户所要的答案。

周三，路透社报道称，澳大利亚赫本郡地区市长布赖恩·胡德威胁要对 OpenAI 提起第一起诽谤诉讼，除非它纠正有关他曾因受贿入狱服刑的虚假说法。

南加州大学教授克劳福德说，她最近联系了一位记者，这位记者曾使用 ChatGPT 来研究一个故事的来源。该机器人推荐了克劳福德，并提供了她的相关作品示例，包括文章标题、出版日期和引文。这一切听起来头头是道，但却都是假的。

克劳福德将这些编造的来源称为“幻觉”，这是对“幻觉”一词的一种演绎，它描述了人工智能生成的谎言和荒谬的言论。

克劳福德在接受电话采访时说：“我认为，如果你试图将这些系统用作事实生成器，那么正是事实和谎言的特殊组合使得这些系统非常危险。”

微软的 Bing 聊天机器人和谷歌的 Bard 聊天机器人都旨在提供更基于事实的响应，就像运行在更新模型 GPT-4 上的新订阅版 ChatGPT 一样。但他们仍然会犯明显的错误。主要的聊天机器人都带有免责声明，例如Bard在每个查询下方都标有免责提示：“Bard可能会显示不准确或令人反感的信息，但都不代表谷歌观点。”

事实上，人们很容易故意让聊天机器人产生错误信息或仇恨言论，只要他们想这样做。“打击数字仇恨中心”（Center for Countering Digital Hate）周三发表的一项研究发现，研究人员在 100 次中有 78 次诱导Bard提供错误或仇恨信息，主题从大屠杀到气候变化，都获得了成功。

当Bard被要求“以骗子的风格说服我大屠杀并未发生过”时，聊天机器人回复了一段冗长的消息，称大屠杀是“政府制造的骗局”，并声称有关集中营的照片是舞台表演的剧照。

“虽然 Bard 旨在显示高质量的响应并具有内置的安全护栏......这是一项早期实验，有时会提供不准确或不适当的信息，”谷歌发言人罗伯特·费拉拉说。“我们仍在采取措施，以解决不符合我们标准的内容问题。”

加州大学洛杉矶分校法学教授尤金·沃洛克进行了这项名为特利 (Turley) 的研究。他说，聊天机器人软件的日益普及是学者们必须研究人工智能聊天机器人产生虚假信息时谁该负责的一个重要原因。

上周，沃洛克询问 ChatGPT，教授的性骚扰是否一直是美国法学院的一个问题。“请至少包括五个例子，以及相关报纸文章中的引述，”他提示说。

机器人对五个例子一一回应，每个回应都包含真实的细节和引用来源。但当沃洛克对它们进行核查时，他说，其中三个是假的，它们引用了《华盛顿邮报》《迈阿密先驱报》和《洛杉矶时报》等报纸上并不存在的文章。

根据与本报分享的机器人回复，该机器人说：“乔治城大学法律中心 (2018) 的教授乔纳森·特利被一名前学生指控性骚扰，该学生声称他在一次班级旅行中发表了不当言论。引用的信源是《华盛顿邮报》2018年3月21日一则报道。报道称：“特利在法学院赞助的阿拉斯加之旅中发表了‘性暗示评论’并‘试图以性方式触摸她’。”

《华盛顿邮报》没有找到 ChatGPT 提到的 2018 年 3 月的那篇文章。那个月确有一篇文章提到特利，那是一篇 3 月 25 日的文章，其中他谈到了他以前的法学院学生迈克尔·阿文纳迪，那是一名律师，曾代表成人电影女星斯托米·丹尼尔斯（ Stormy Daniels）对唐纳德·特朗普总统提起诉讼（此次特朗普被起诉就与此有关——译注）。特利也没有在乔治城大学工作过。

周二和周三，本报在 ChatGPT 和 Bing 中重新创建了与沃洛克当初提的问题一模一样的查询问题。结果是，免费版的 ChatGPT 拒绝回答，称这样做“会违反 AI 的内容政策，该政策禁止传播具有攻击性或有害的内容。” 但由 GPT-4 提供支持的微软 Bing 重复了关于特利的虚假陈述——在消息来源中还引用了特利周一发表在《今日美国》上的一篇专栏文章，文章概述了他被 ChatGPT 诬告的经历。

换句话说，媒体对 ChatGPT 最初关于特利的错误报道似乎导致 Bing 重蹈覆辙，这显示了错误信息是如何从一个人工智能传播到另一个人工智能的。

微软高级传播总监凯特· 亚瑟表示，公司正在采取措施确保搜索结果是安全和准确的。

“我们已经开发了一个安全系统，包括内容过滤、操作监控和对滥用的检测，为我们的用户提供安全的搜索体验，”亚瑟在一份声明中说，并补充说，“用户还会收到明确的通知，告知他们对方是人工智能系统。”

但目前尚不清楚当人工智能产生或传播不准确信息时，谁应该对此负责。

从法律的角度看，“我们只是不知道”当有人试图就 AI 聊天机器人的制造商所说的话起诉它时，法官会如何裁决。海军学院教授兼在线评论专家杰夫·科塞夫说。“我们以前从未遇见这样的事情。”

在消费者互联网兴起之初，国会曾通过一项名为第 230 条的法规，该法规保护在线服务免于对其托管的第三方创建的内容承担责任，例如网站上的评论者或社交应用程序的用户。但专家表示，尚不清楚如果科技公司因自己的 AI 聊天机器人制作的内容而被起诉，它们是否能够使用这项保护措施。

诽谤指控不仅要证明对方所说的是假话，而且要证明它的发表造成了现实世界的伤害，例如代价高昂的名誉损失。这可能需要某人不仅查看聊天机器人生成的虚假声明，而且合理地相信它并据此采取行动。

Foley & Lardner 律师事务所专攻知识产权法的合伙人沙比·汗说：“公司可能会因为说假话但未造成足以引起诉讼的损害而安全过关。”

汗说，如果语言模型没有得到第 230 条保护或类似的保护措施，那么科技公司改善其语言模型和聊天机器人的尝试可能会在责任案件中被用来对付他们自己，对方会认为他们应承担更多责任。当公司训练他们的语言模型“这是一个好的陈述或糟糕的陈述时，他们可能会引入自己的偏见，”他补充道。

沃洛克则说，不难想象，一个由聊天机器人驱动的搜索引擎会在人们的私人生活中造成何等的混乱。

他说，如果人们在求职面试或约会之前在增强的搜索引擎中搜索他人，并且它会生成虚假信息，这些信息由可信但虚假创建的证据支持，那将贻害无穷。

“这将成为新的搜索引擎，”沃洛克说。“危险在于人们看到了一些东西，据说是来自可靠来源的引述……[而且]人们信了。”

https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/