王大可、周凯琳：表面拟真性与功能性信任：高校学生学术写作中AI幻觉的识别机制研究

论坛

FORUM

表面拟真性与功能性信任：高校学生学术写作中AI幻觉的识别机制研究

王大可1,2 周凯琳1

(1上海交通大学媒体与传播学院;

2上海交通大学智能传播研究院)

生成式人工智能正以前所未有的速度渗透到高校学生的学习与学术写作过程中，从文献检索到论文撰写，从数据分析到语言润色，AI已成为知识生产中不可忽视的参与者。然而，效率提升的背后潜藏着新的风险，AI幻觉便是其中之一。它指的是AI生成貌似合理连贯，但与用户意图、客观事实或推理逻辑不一致的内容。这一现象并非偶发的技术缺陷，而是源于大语言模型基于概率分布而非事实验证的底层运行机制。高校学生作为AI写作工具的高频使用者，同时正处于学术规范养成期，领域知识相对有限，面临更高的被误导风险。现有研究多从技术层面探讨幻觉的识别与治理，对用户在真实情境中的识别过程缺乏系统考察。本研究正是从用户视角切入，试图回答三个核心问题。首先，AI幻觉在学生写作任务中主要分布在哪些环节，呈现怎样的特征。其次，用户依靠哪些线索发现幻觉，采取了哪些验证策略，又受到哪些情境因素的制约。最后，面对AI的不确定性，用户如何调整信任，形成了哪些人机协作模式。

为回答上述问题，研究采用事件导向型日记法，要求8名来自新闻传播学、经济学、心理学、工程学等不同学科的本科生与研究生在真实学术任务中即时记录其遭遇的AI幻觉事件，最终获得56个有效事件记录。数据收集历时约7周，采用反思性主题分析法进行分析。

研究发现，AI幻觉集中分布于对精确度要求较高的任务，其中文献引用类占39.3%，数据处理类占25%，格式结构类与代码图像类各占17.9%。其具体表现包括完整虚构文献条目、微妙篡改作者信息、虚构权威数据来源、上下文记忆失效、代码越改越错等多种形态。AI在面对信息缺失时表现出明显的“填补”倾向，倾向于生成看似合理的答案而非承认未知。

研究进一步将AI幻觉的“表面拟真性”拆解为格式、数据、来源、逻辑、语言五个维度，这五个维度共同构成了AI幻觉的“可信外壳”。用户主要依靠形式异常作为初级警报，以内容矛盾与逻辑断裂作为深层防线，并通过数据库查证、原文对照、交叉AI验证、教师确认等多元策略加以核实。然而，识别效能受到知识盲区、时间压力、认知疲劳与任务重要性等情境因素的系统性制约。

面对AI输出的不确定性，用户并未形成对AI的整体性信任或不信任，而是发展出基于任务特征的“功能性信任”模式。该模式具有任务特异性、情境敏感性与动态适应性三个核心特征。在框架生成与创意激发类任务中信任度较高，在语言润色与格式整理类任务中保持中等信任，在事实核查与数据验证类任务中信任度最低。用户由此形成分工协作、迭代优化、信任但验证三种典型协作策略，将验证从信任缺失的标志转化为有效协作的结构性要素。值得注意的是，信任下降并不必然导致使用减少，而是转化为更审慎的使用方式，这一发现修正了“信任下降必然导致使用减少”的线性假设。

本研究的理论创新主要体现在三个层面。其一，从用户视角出发提出“表面拟真性”概念并完成五维度拆解，揭示了AI幻觉最具欺骗性的特征恰恰在于其看似可靠的外观，传统基于可靠性外观建立信任的机制在此失效。其二，提出“功能性信任”框架，超越了将信任简单二分为“信任”或“不信任”的传统观点，揭示用户已将整体性信任评估转变为差异化配置。其三，揭示验证行为的意义重构，验证不再是信任缺失的标志，而是内化为人机协作的结构性要素。

研究的实践启示亦体现在三个层面。在技术层面，AI系统应增强不确定性表达，以置信度评分、来源标注等方式取代统一的权威姿态。在教育层面，高校应将AI幻觉识别纳入学术写作课程，重点教授基于形式线索的判断方法与差异化信任意识。在规范层面，学术共同体可建立AI辅助写作的透明化标注机制，要求作者明确披露AI使用范围并声明已进行人工核实。

总体而言，本研究为理解AI时代的知识生产与人机信任关系提供了一个初步的经验视角。面对AI的错误风险，用户并非简单地拒用或放任，而是在差异化的信任配置与常态化的验证实践中，主动重构着自身与AI的协作关系。

作者简介

王大可，上海交通大学媒体与传播学院副研究员、上海交通大学智能传播研究院研究员。研究方向为智能传播、科技传播;

周凯琳，上海交通大学媒体与传播学院硕士研究生。研究方向为智能传播、科技传播。

项目资助

国家社科基金重大项目“5G时代新闻传播的格局变迁与研究范式转型”（21&ZD325）；上海市哲学社会科学规划一般项目“人工智能传播的‘双智能’共振风险防范与‘人机共生’新生态规制研究”（2023BXW002）。