政新微评 | AI背后的陷阱：有图未必有真相

借助AI技术手段制造不实信息，已成为当下信息传播领域面临的一大新挑战，其特点鲜明且危害突出，不仅侵蚀了信息的真实性，平生事端形成舆情，扰乱了社会秩序与公众认知。眼见不为实，真假难分辨，生成举手间，查处更困难。

一

AI制作不实信息具有以下特点

一是迷惑性强。AI技术的高度发展使得谣言制造者能够精准模仿真实人物的声音、外貌乃至行为模式和语言逻辑，使得谣言内容在感官上极具欺骗性。普通民众往往难以分辨真伪，极易被误导，极易信以为真。

二是刺激度高。为了吸引眼球、吸引流量，或以此获利，或制造话题谈资，或炫耀技术。AI生成谣言的制作者，往往围绕热点事件或敏感话题来做文章，通过虚构事实，或编造耸人听闻的情节，或以当事人的口吻发表夸张言论，或制造新的矛盾冲突点，或提供更“生动”的细节，以此激发公众的好奇心与情绪反应，从而达到让事件关注度、影响力升级的目的。

三是传播力广。借助AI发布的音视频，做为某起特定事件的新鲜素材，往往依托社交媒体、短视频平台等新媒体渠道，能够以病毒式速度扩散，迅速覆盖大量用户，又因为音视频本身的易二次加工属性，不断变种迭代，这让不实信息跑得更快更广，特别是被媒体账号做为信源引用报道后，就又借助了媒体的影响力和公信度，继续提速传播。

四是伤害力大。做为被假借身份的事件当事人，会因为这种“本人言论”，而迅速成为被关注、被指责、被情绪攻击的对象，仅澄清辟谣往往百口莫辩。自己说不是，但网民就不信。特别是当这类AI谣言以“偷拍偷录、知情人透露、设备丢失或维修无意流出”等方式包装时，更会让公众产生信源可靠的印象。同时，做为事件矛盾的另一方，往往则会因为这一“挑衅言论”的出现，选择回击回应，于是事件冲突更加激烈。

五是查处难度大。AI谣言查处至少面临三个困难，第一虽有辟谣但举证难，被假冒人难以自证不是自己所为；第二信源模糊，造谣者为自我掩饰，可能会采取据传，大家来判断等话术，不点明音视频来源，若是只想添柴挑事的，可能会把素材提供给某些领域的自媒体，本人并不直接发，这让查询源头更困难；第三就是技术鉴定，官方调查要有规范的流程和明确的依据，来证实真假，而AI技术本身的匿名性和隐蔽性使得谣言的源头追踪就十分困难。同时，由于AI生成的方式方法具有多样性和复杂性，包括使用工具的差异，专业机构鉴定需要花费大量时间和资源，这无疑增加了查处的难度和成本。

二

AI制作不实信息的主要行为模式

一是假借身份：谣言制造者通常会选择热点事件中的关键人物或自称知情人，利用公众对这些人物的关注度和信任感，以假乱真地发布信息。明确角色，量体裁衣，对象越明确，假冒的效果越直观。

二是深度伪造：通过AI技术，如深度学习算法，对声音、图像、视频进行高度逼真的伪造，使得伪造内容几乎与原始资料无异，难以用肉眼用耳听来辨别。特别是加上所谓环境嘈杂、信号影响、转拍转录等理由，更成了雾里看花越看越像。

三是以视吸睛以声惑人。相对于视频人物伪造，AI合成模仿声音，更具有欺骗性，而单纯的音频在后续传播中，又很容易被配视频配照片，剪辑编辑成为更饱满的传播版本。

四是关键信息缺失。这类谣言的假借对象虽明确，但发生在何时何地，什么场景下拍的，如何流出的，这些关键信息却被模糊处理，就是让公众自己去猜测，可能性越多，话题就越丰富。

五是虚中有实。这类AI谣言的细节中，往往真假交织，用一个真实的细节来让公众其他细节也是真的，或者是直接把真实的音视频片段或伪造内容混剪，更增加所谓可信度。

三

AI类谣言信息的危害

一旦AI谣言进入公众视线，由于其高度的真实感和刺激性，“眼见为实铁证凿凿”，往往能迅速获得关注并被广泛转发，直接推高舆情热度。而辟谣和处理谣言又需要一定的时间过程，在信息空窗期内，公众的心理和看法都会受到这种AI谣言的直接影响，形成对某起事件的情绪态度，即使后续反转，但前期对于涉事方的伤害已经造成。哪怕是在证实为谣言，处理AI制谣者后，也让公众对于网络信息的真实性、AI的可怕性造成心理阴影，从先入为主看了就信向对啥都不信转化。

四

AI谣言的应对查处

查处AI谣言，要采取法律加技术，管理加防御的组合拳。从法律上，要对法律法规不断完善，明确AI谣言的法律责任，提高违法成本，同时建立健全跨部门协作机制，提升谣言监测、处置、打击的效率。从技术上，要以魔法打败魔法，用更先进的AI识别技术手段，来更快更准的发现识别过滤虚假信息。从管理上，则还是要强化平台责任，对于有明确辟谣，信源存疑，主责部门已介入调查的内容有一定的先期限制措施或标识说明，至少让公众看到时，知道这一信息存在争议及不确定性。从心理防御角度，则是让公众对于AI技术的能力和使用界线，形成符合社会主流价值观的认知，技术本无错，但无规则乱用就是问题，就需要有针对性的解决办法，加以监督限定。

福尔猫斯

一个不愿露脸的业内人士，告诉你舆情后面的可能有的故事。