山东
近日，安徽某高校通报了一起引发学界关注的学术不端事件：一篇论文注释中判决书序号被质疑编造，校方调查后认定，作者“误信”了AI的检索结果，属于AI使用不当行为，相关责任人受到相应处罚。
实验结束，进入成文阶段。这是AI介入最普遍、争议最集中的环节。某高校化学方向博士生向光明日报记者坦言，课题组使用AI的频率“近乎100%”，从选题、初稿到润色都已渗入。
“100%”的高频使用也放大了两个问题：代笔界限模糊，虚假参考文献泛滥。
中国环境科学研究院研究员阳平坚就发现，一些学生有了AI后自己不再认真读英文文献，“这对学生科研能力伤害非常大”。他现在要求学生文献必须自己读，读完后可以用AI翻译和总结。
阳平坚举了一个例子：AI在一次内容梳理中输出“中国的碳市场即将启动”，课题组成员没有发现问题。“中国碳市场2021年就已经启动了。AI调取的资料库版本比较旧，没有收录最新的数据。”在他看来，如果研究者对自己领域的常识和前沿缺乏专业敏感，AI输出的错误就会悄无声息地进入正式文本。
前不久，学术预印本平台arXiv发布了一项对250万篇论文、1.11亿条参考文献的系统性审核，结果显示：仅2025年，arXiv、bioRxiv、SSRN和PubMed Central四大平台中就存在近15万条由AI编造的虚假参考文献。
专家分析，其根源在于生成式AI的运作方式——它倾向于生成“看起来像文献”的内容，而非检索真实存在的数据。
学术期刊审稿人伍群芳以自身领域为例佐证了阳平坚的观点：“电力电子学科高度依赖IEEE、IET等专业数据库，但这些数据库‘有权限、要版权’，很多内容没有接入通用大模型。好的东西AI够不着，所以生成的内容也流于大众，没有真正创新可言。”
这也提示，解决AI虚假输出的关键或许不在模型本身，而在数据源的可控性——如果科研人员能够将经过审核的专业文献和自有数据“喂”给AI，而非任由它从开放网络随意抓取，虚假引文的风险将大为降低。
原文标题：《AI当“科研搭子”，你真的放心吗？》。
- END -
来源：《光明日报》，转载自麦可思研究，有删节
声明：本文版权归原作者及原出处所有，内容为作者观点，并不代表本公众号赞同其观点和对其真实性负责。如涉及版权等问题，请及时与我们联系，我们将立即更正或删除相关内容。本公众号拥有对此声明的最终解释权。
感谢您支持“高教志”
高教志 ID：cncollege
关注高等教育发展 / 关心大学教师成长 / 关怀大学生成才
大学，有大学问
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
