专题报告：AI谣言的特征、危害与综合治理路径｜探舆论场

核心导览

近年来，AI谣言借助生成式AI技术的便利频繁滋生，其中还包括利用AI技术催生的黑灰产，这些不仅严重扰乱了公共信息秩序，更对社会信任与稳定构成现实威胁。

知微数据联合中国传媒大学媒介与公共事务研究院、中央财经大学金融品牌研究所、法码象发布《Al谣言的特征、危害与综合治理路径》报告，分析Al谣言的生成源头、目的，以及传播态势与社会影响等内容，并从技术、事件、法律等多维度探讨治理策略。

专家观点

Expert Insight

谣言如同假货；平台放纵谣言传播，如同商场贩卖假货。谣言虽能在短期内吸引眼球、增加点击、赚取流量；但从长远看，谣言破坏诚信，愚弄受众，扰乱秩序，最终必将影响平台声誉和用户黏性，造成反噬。因此，平台对谣言不能“睁一只眼闭一只眼”，而应该像良心商场打击假货一样，抵制谣言、屏蔽谣言、清除谣言。

——杨宇军

中国传媒大学媒介与公共事务研究院院长

在数智时代，AI谣言正以空前速度侵蚀信息生态：其成本更低、生成更快、内容更逼真、传播更精准、扩散更广泛，极易形成“遍在效应”，诱发公众盲目跟从。应对此类新型风险，仅靠传统治理远远不够——公众亟需提升媒介素养，以批判性思维与逻辑能力筑牢认知防线。与此同时，也需法律规制与技术反制双管齐下，构建系统性治理框架。《AI谣言的特征、危害与综合治理路径》尝试揭示谣言生成与扩散机制，并提出多维度应对策略。推荐每一位关注声誉风险、公共沟通、数字伦理与社会治理的读者阅读，共同抵御AI时代的信息失序。

——王晓乐

中央财经大学金融品牌研究所所长

声誉风险研究中心主任

法律面对AI的核心原则是“人类主体性不可让渡”，AI本身不是风险，人类放弃思考和判断才是。从本质上，AI与人手中的纸笔、相机并无区别，无论技术如何放大治理难点、新增技术盲区，“人”永远是违法责任的核心主体，“谁违法、谁担责”“风险控制能力决定责任大小”的逻辑从未改变。

——丁岚

法码象首席法律专家

Part.1

AI谣言的核心特征与规律性

AI谣言的特征分为三大块：从技术特征上看， AI谣言具有“超真实伪造”“个性化投喂”以及“低成本量产”三大特征；从 内容特征上看，AI谣言具有“热点寄生性”“情绪优先性”以及“圈层化叙事”三大特征； 从传播特征上看，AI谣言具有“跨平台裂变”“人机协同化”“进化与迭代”三大特征。 这些特征使得AI谣言的迷惑性、隐蔽性、破坏力更大。

首先，从技术特征上看，此前，传统谣言多依赖于拼接手段，造谣者往往在网络上搜罗各种碎片化信息，通过断章取义、移花接木等手段，将不同来源的文字、图片生硬拼凑，这一类谣言往往因为素材来源多、拼接痕迹明显而缺乏可信度和逻辑连贯性，公众稍加留意便不难辨别。

但AI谣言可实现“原生式生成”“超真实伪造”，通过对海量数据的分析，AI算法能够精准把握事物的特征和一般规律，进而根据用户输入的指令生成具有真实感且没有明显瑕疵的内容。这种依托AI技术的“超真实伪造”谣言，从内容到形式都是全新构建，并相较于传统谣言更加逼真、连贯。此外，目前AI谣言中，音频、视频内容占比急剧上升，这颠覆了民众“有图有真相”的传统认知底线，证伪难度指数级增长。

（更多分析内容，请扫码添加客服“知小微”获取完整版报告。）

Part.2

AI谣言产生的时代背景

AI谣言作为新型虚假信息形态，其快速发展与技术发展、社会心态、信息生态、公众素质等密切相关。

01

技术发展层面

随着Kimi、deepseek等生成式人工智能的进一步落地，AI工具的使用门槛大幅降低，这种技术民主化一定程度上为造谣者提供了便捷工具。近年来利用AI技术生成的虚假新闻呈现出新特征，不仅严格遵循新闻写作的“5W1H”要素确保内容完整性，更通过专业新闻语体增强可信度，同时辅以深度伪造的图片或视频，迷惑性更强。

02

社会心态层面

当前正处社会转型期，公众面对快速变化的社会环境易产生集体焦虑感，这种情绪为AI谣言传播提供了土壤，同时部分传统媒体公信力的下降产生信任赤字，使公众下意识更倾向于相信非官方渠道的信息。

03

信息生态层面

主流内容平台普遍采用算法推荐机制，这种机制往往优先推送能引发强烈情绪反应的内容，AI谣言往往通过夸张标题（如“惊爆！内部消息”）和情绪化内容快速抢占流量，流量经济成为了AI谣言产生和传播的核心驱动力。

04

公众素质层面

面对快速演进的AI技术，公众的数字素养相对滞后。民众普遍缺乏辨别AI生成内容的能力，尽管有媒体持续输出“如何辨别AI内容”的相关教程，但其给出的判定标准往往缺乏可实操性，且辨别内容的输出速度无法与技术更新同步，综合因素导致公众认知的相对滞后，使得谣言制造者有机可乘，此外公众的法律意识淡漠，对于扩散AI谣言的违法性认识不足，容易成为AI谣言传播的“帮凶”。

Part.3

AI谣言的典型危害与应对建议

AI谣言肆虐，对政府、企业、公众均造成不良影响。首先，AI谣言对政府公信力构成严重威胁；其次，AI谣言肆虐影响企业正常运营。 针对AI谣言的特殊性和危害性，需要从政策、平台、技术和信息发布多个层面构建综合治理体系，形成有效应对机制。

政策层面：执法需快速跟进

今年以来，AI生成谣言的现象迎来了强监管。先是四部门发布《人工智能生成合成内容标识办法》，后网信办针对AI内容标识缺失误导公众、利用AI技术制作发布谣言等问题开展专项行动。但AI谣言仍存在诸多法律治理难点，包括人机创作边界模糊、责任主体溯源难、算法不可解释等。对于AI谣言治理，法律既要保障AI技术创新应用，又要守住信息真实、传播有序的法律与道德底线。

平台层面：内容平台需加强治理

超大型内容平台，作为信息分发枢纽，不能仅依赖“通知-删除”的避风港规则，更需承担主动防控、算法透明义务。目前各内容平台虽然已有封禁措施，但主要通过设置热点关键词屏蔽谣言，而AI模型可通过针对性的对抗训练绕过谣言关键词。因此，平台可通过建立平台间的信息共享和协同机制提升整体治理效率，避免造谣者利用平台间的规则差异进行传播。

技术层面：部署AI溯源与鉴伪工具

平台和相关部门可以开发用户端等便捷工具，辅助公众识别AI生成的虚假信息。例如，提供图片、视频真实性核验功能，用户上传可疑内容后系统自动进行初步鉴定。此外，还可以通过浏览器插件、小程序等形式，为用户提供一键验证信息真实性的便捷工具，降低公众辨别谣言的门槛。

信息发布层面：加强主动发布

全媒体时代，当政府部门或企事业单位面临重大舆情危机时，往往也是各类虚假信息的活跃期，不论虚假信息是人工编造还是AI生成，及时公布还原事件真相都是打击谣言的最有效手段。一是要快速反应。AI谣言的生成、迭代和传播速度极快，这就对主动发布的及时性和准确性提出了更高要求；二是要打造权威的发声平台。不论政府部门还是企业，都应建立比较确定的权威发声渠道，确保真实声音能够通过权威渠道及时发出；三是要打造权威的发声媒体。发生重大危机时，应确保有主流媒体在场，通过媒体客观真实的现地调查和报道，把真实信息传播出去；四是要采取各种措施提高全社会的媒介素养、科学素养和法治素养，增强公众对于虚假信息的辨别力和免疫力。

（更多分析内容，请扫码添加客服“知小微”获取完整版报告。）

报告围绕此次事件，从不同维度展开了全面分析，如需获取完整版报告或其他行业报告，请扫码添加“知小微”，也欢迎加入营销、公关专属社群进行交流。

知微舆论场

知微事见

知微危机案例库