李正风、王硕：生成式AI与科研诚信治理：基于社会实验视角的分析

生成式AI与科研诚信治理:基于社会实验视角的分析

李正风1 王 硕2

(1 清华大学社会科学学院;

2 清华大学马克思主义学院)

DOI:10.19524/j.cnki.10-1009/g3.2026.02.001

生成式人工智能（下文简称“生成式AI”）推动人类认知行为的技术性替代进入新时代，不断重塑知识生产格局，也对既有科研诚信规范带来挑战。面对技术与规范的双重不确定性，传统自上而下制定静态规则的方式日益暴露出一定局限。学术出版界围绕AI使用的治理探索，实际上可以被看作一场自发的、去中心化的社会实验。本文以社会实验的视角切入，从实验的覆盖面、测量有效性和学习深度三个条件出发，审视当前治理探索的得失，并探讨改进的方向。

学术期刊针对生成式AI制定政策的过程，本身就在不断试错和调整。例如，Science期刊最初全面禁用生成式AI，在学界反馈和现实压力的推动下，其态度逐渐转变为在满足披露要求的前提下允许使用。这种调整展现了干预、反馈与学习的基本循环。去中心化的格局使各国、各机构、各期刊成为相对独立的探索单元，差异化的应对策略为治理知识的积累提供了基础。

当前有关生成式AI在科研场景中应用的规制探索，已形成一些基本共识。例如，人类必须承担全部责任，AI使用过程必须披露，AI不能作为署名作者等。但这些共识偏重防御，只划定了AI不能做什么。在使用边界、审稿人权限和治理范围上，依然存在较大的分歧。有的期刊将AI用途限定在语言润色等场景，有的期刊要求作者详细披露提示词。以有效社会实验的条件来审视，当下的治理探索正面临一定困境。

第一，规制范围较为失衡。压力主要由作者承担，审稿人和出版商环节没有受到同等力度的关注。有研究估算，2023至2024年间计算机领域部分顶级会议中，由大语言模型生成的审稿意见占到7%至17%。一些期刊甚至尝试用AI替代人类编辑处理稿件。此外，既有规制还未能覆盖提示注入等新型风险。2025年，西南财经大学数据法学研讨会发现投稿者用白色字体在论文中嵌入隐藏提示词，试图操纵AI审稿流程，常规检测手段对此难以发现。与此同时，长期依赖AI可能削弱研究者的批判性思维，使研究者对AI输出的错误信息丧失警觉。这种影响是慢性的、弥散的，逐渐损害公共知识生产的质量根基。

第二，测量工具本身并不可靠，还可能会将治理目标引向歧途。主流的AIGC检测工具准确率和一致性相对较低，而且通过同义词替换或简单改写即可绕过。用AI来检测AI，从技术逻辑上看本身就是一个悖论，很容易陷入生成与检测之间的攻防循环，大量治理资源被消耗在技术对抗上。我们发展AI技术的目标是“让AI越来越像人”，但治理的逻辑却反过来，要求人“自证不是AI”。更大的问题在于，当期刊把精力放在检测文本的AI痕迹上，评估的重心就从研究有无原创性学术贡献变成了文字是不是AI写的。部分期刊硬性规定AI生成内容不得超过某个百分比，把科研诚信判断简化成了数字，用手段替代了目的。模糊的披露要求还带来了所谓“披露惩罚”的现象，研究者担心主动披露会招致更严审查或者区别对待，“想用AI不敢用”、“用了AI不敢说”的问题愈发严重。

第三，政策学习停留在形式模仿，治理路径高度趋同。在声誉风险的驱动下，很多期刊纷纷模仿领域内高声望同行的做法，发布的AI政策迅速趋同。调查显示，国内90%的社科期刊发布了相似的禁止条款。以禁止清单、技术检测和量化阈值为典型手段的治理模式，能够应付简单的文本生成问题，却难以应对过程性攻击和认知能力的侵蚀。这种趋同还造成了宏观战略与微观实践之间的脱节。当前，国家、高校和科研机构大力倡导AI for Science，鼓励探索AI赋能科研的潜能，而在期刊发表层面，审查体系却以严防死守为主要基调。一线研究者陷入两难，无所适从。

走出这些困境，未来可能需要从三个方向着力。

第一，从只关注作者转向全流程的共同治理。治理责任必须扩展到审稿人、编辑、出版商和AI公司。期刊应针对审稿人也使用AI制定专门指南，明确保密义务。出版商不得用AI替代人类编辑的核心判断。高校应提供分学科的差异化指南，例如清华大学2025年颁布的《人工智能教育应用指导原则》。国际出版伦理委员会（COPE）等行业组织则需搭建协调平台，尽量减少政策的碎片化。

第二，学术评价的焦点要回归研究的学术贡献与原创性。检测工具只适合作为辅助参考，需要建立国家标准、技术检测与专家判断相结合的评价体系。编辑和审稿人应当重点考察研究的问题意识、证据质量和原创贡献，而不是追问生产工具。学科之间应有侧重，人文学科重概念创新，理工医学重数据真实与可重复性。同时，要营造让研究者敢于主动披露AI使用的信任环境，让披露成为一种负责任的主动行为。

第三，硬规范的迭代与AI素养的培育要同步推进。在规范层面，可以主动运用实验方法检验规则的实际效果，政策中内置定期修订的节点，鼓励机构根据自身情况差异化探索。在AI素养层面，治理重心需要从封堵延伸到赋能，重点培育科研人员的AI胜任力，包括批判性思维、利用AI开展专业研究的能力以及伦理判断。规范迭代的周期相对较短，素养培育则需要长线投入，二者必须协同推进，不可偏废。

生成式AI对科研诚信的挑战，本身就是一个开放性的治理命题。它没有标准答案，只能在持续探索中达到更好的状态。社会实验的治理思路，核心在于将技术的不确定性转化为一个可以不断修正的实践框架。它追求的是一套具备学习能力的治理机制，让学术共同体在与AI共处的过程中逐渐摸索出边界与分寸。这场探索关乎规则的建设，也关乎智能时代人类创造力与科研诚信内涵的持续反思。

作者简介：

李正风，清华大学社会科学学院教授。研究方向为科技与社会、科技伦理、科技政策;

王硕，清华大学马克思主义学院助理研究员。研究方向为科技伦理教育与治理、人工智能与当代知识生产。

通信作者：

王硕，邮箱地址：jssqsure@163.com。

项目资助：

国家社会科学基金重大项目“深入推进科技体制改革与完善国家科技治理体系研究”（21ZDA017）；国家自然科学基金项目“主要国家科研资助机构改革动向与资助布局研究”（L2524003）；中国科协创新战略研究院项目“中国科技工作者发展权益的社会学理论问题研究”（2026-RCS-1）。