陷于“虚构信息”的泥沼

北京大学 徐仁新 编译自 Nicole Sharp. Physics World，2026，（9）：8

本文选自《物理》2026年第10期

在人工智能时代的今天，我们比以往任何时候更需要学术技能。

2008年，美国作家斯蒂芬森出版了科幻小说“Anathem” (译者注：中译名《飞越修道院》、《失落的星阵》等)。故事发生在假想的“Arbre”类地行星上，涉及一群不同等级修行的僧侣，他们大多与世隔绝，但偶尔会开放接受外界信息。

书中，斯蒂芬森探讨了互联网的“黑暗时代”。那时，公司让网络涌入大量“看似合理其实虚假”的信息，以此迫使消费者购买本公司开发的工具来鉴别真伪。

正如斯蒂芬森所言，这种“胡扯”起初由人完成，但最终这一过程由所谓的“Artificial Inanity” (人工废话)运行，它可为每个合法文件创建成百上千个虚假版本(bogons，即“虚构信息”)。

机器的崛起。由大语言模型驱动的聊天机器人使得搜索结果和社媒信息泛滥

今天，我们正面临斯蒂芬森的“黑暗时代”。我们获取的信息中越来越多地充斥着人工智能(AI)垃圾，远不止AI生成的离奇小猫视频以及政客和名人的古怪举止。

随着大语言模型(LLM)驱动的聊天机器人的兴起，我们的搜索、社媒甚至学术期刊都被污染了。乍一看，这些数据有用且合理，但在其华丽表象背后却没有任何价值。

作为科学家，我们必须将自身工作与近期的其他研究联系起来。然而，当我们不得不从虚构成果中分辨出真实时，这项任务变得愈发艰难。随着大语言模型生成的劣质内容侵蚀我们此前信赖的知识库，我们正面临着一个迅速恶化的信息环境。

以前可以将一个想法追溯到人类作者(对学术不端承担后果)的论文；但未来，除评估科学价值外，我们还必须质疑文章的作者、机构或实验是否真实存在。

这并非杞人忧天。2024年，哥德堡大学医学研究团队虚构了一种名为“bixonimania”的疾病，并通过Medium 平台上的帖子和两篇预印本论文进行宣传。团队旨在测试AI聊天机器人是否会捕捉和传播虚假疾病信息，结果却得到肯定答案。值得一提的是，团队插入的若干信息已明确表明这一研究造假，如致谢“星际舰队学院”的一位同事、感谢“魔戒联盟大学”的资助，甚至在文章一开头就写道“整篇论文胡编乱造”。

困于沼泽

物理学家也不能幸免信息糟粕的危害。大量LLM生成的文章迫使预印本库arXiv今年5月宣布对“基于LLM生成”论文的作者的惩罚，包括引用“虚假参考文献”。措施包括：禁投arXiv一年，此后的手稿必须经过“信誉良好的同行评审”之后才能被接受。

我起初对这一举措表示欢迎。严重的后果将防范LLM的滥用，尤其是针对那些粗制滥造的投机行为。然而，我越想越不对劲，arXiv新的惩罚机制可能最终会落在那些不用LLM写论文的作者们身上。

抄近路是省事的。比如，你正在写一篇综述，你读过并信任论文A，考虑引用其中的一个要点，但你注意到该要点其实出现在论文B中(论文A只是引用)。很简单，直接滚动鼠标至参考文献，复制论文B并引用(相信我们中大多数都这么干过)。

但随着信息环境的恶化，这种捷径有可能让你违反arXiv等的新政策。看似有效的引文(甚至包含你熟悉的作者)，也许根本就不存在。

研究也可能完全伪造。例如，一组研究人员在同行评审的文章中引用“bixonimania”预印本之一。期刊编辑不顾作者反对，撤回了该文。简单地复制粘贴引文而不进行检查，你可能会无意间被列入黑名单，你和合作者都将被禁用arXiv。

我并不认为arXiv有政策缺陷。相反，我觉得那些希望自己的写作不受AI影响的同行必须保持警惕。我们必须努力提升专业技能，包括科学判断、信息甄别、沟通技巧和严谨的学术态度。虽然AI公司声称LLM能够取而代之，我们还是应该致力于训练并传授这些技能。

在《飞越修道院》中，某位角色可以挥挥手离开那个充满虚构信息的互联网，而我们不可能这样解决问题。相反，随着信息环境的恶化，我们发现自己深陷泥沼。为了摆脱，我们必须认真计划下一步，不能想当然。看似可靠的途径，也可能被证明是危险的。安全前行是一个缓慢过程，在获得可信赖的方案和工具时，我们必须加倍努力推敲。

仅仅在写作时选择不用LLM已经不切实际了，我们必须依靠学术技能来分辨真伪。若想摆脱困境，所有人都必须放慢脚步。

欢迎订阅2026年《物理》杂志

《物理》是由中国科学院物理研究所和中国物理学会主办的权威物理类中文科普期刊，注重学科性与科普性相结合，秉承“轻松阅读，享受物理”的办刊理念，集学科大家之力，追踪物理学成果，服务物理学领域，促进学科交叉，让科学变得通俗易懂。已成为我国众多物理专业的大学生、研究生、物理学家案头常读的刊物之一。

(期刊订阅)

订阅方式：编辑部直接订阅优惠价240元/年，全国包邮。

方式1微信订阅

在“物理所财务处”微信公众号缴费，操作如下：公号下方“业务办理”-“订刊费”-收费部门“《物理》编辑部”，之后填写相应信息。如有问题，可添加编辑微信咨询：18627635857。

(注：仅针对需要对公开电子发票的读者，且务必提供正确的单位名称和单位税号)

方式2银行汇款

开户行：中国农业银行北京科院南路支行

户 名：中国科学院物理研究所

帐 号：11250101040005699

（注：请注明“《物理》编辑部”，汇款成功后请及时联系编辑部登记邮寄地址）

编辑部联系方式：

咨询电话：010-82649277；82649029

Email：physics@iphy.ac.cn

(赠阅活 动 ）

为答谢广大读者长期以来的关爱和支持，《物理》编辑部特推出优惠订阅活动：凡直接向编辑部连续订阅2年《物理》杂志，将获赠《岁月有情- <物理> 50周年纪念本》。内有自1972年至2022年《物理》发表的50篇精选文章信息，扫描对应的二维码，可重温经典之作，感悟物理科学的真谛，领略学科大家的风采。希望读者们爱上《物理》!