AI造假，我们的信任感还能撑多久？

最近刷视频时，发觉广告越来越荒诞离谱了。

不合时宜的人，说着不合时宜的话，流畅的表达配着僵硬的微笑嘴角，一股子扑面而来的伪人感总让人有点不寒而栗。

想起近日刷到的新闻，网友发现一位和蔼可亲的老茶人推荐茶叶，结果一查发现，这位茶界泰斗居然已经去世八年了。

属实是阴间操作——商家用AI技术把他“复活”来带货了。

不单是老泰斗遭殃，往上再数几千年的老人家们都逃不过。技术的野蛮生长背后是伦理缺位带来的为所欲为，AI现在简直是在挖坟整蛊全世界的名人。

印象中年初还停留在老祖宗们集体look in my eyes，现在已经发展到一些下限很低的情形了：英国女王被AI扔进猪圈，科比被弄得浑身脏兮兮坐在马桶上，霍金更是被AI各种戏弄，甚至有人对着他的脸疯狂出拳。

这些人们生前积累的尊严，就这样被AI撕得粉碎。他们不再是历史人物，成了供人取乐的小丑。

也有观点辩解说可以做些“温情”的AI复活视频，但实际上，除非是至亲之人且出于纪念目的，否则所谓的“温情复活”多半是在消费逝者。

更可怕的是，AI造假已经形成了一条灰色产业链。有博主明码标价：定制明星视频30秒98元，更逼真的“复活”课程要价甚至超过万元。这些人都打着温情的旗号，实则盯着你的钱包。

我仔细想了想，AI造假大概有几种套路让人防不胜防：

最常见的就是“李鬼”带货。全红婵在不知情的情况下“被代言”了土鸡蛋，温峥嵘发现自己被AI克隆后在多个直播间同时卖货。别说老年人了，就连年轻人一不小心都会上当。

其次是编造离谱剧情博取同情。什么“父亲车祸去世母亲改嫁”、“女儿怀孕7个月即将离世”之类的狗血剧情，最后都是为了卖一款睡眠香膏。这些由AI生成的虚假剧情，却让不少真正需要关怀的人产生了共鸣。

还有更直接的诈骗。AI“假孙子”一个电话打来喊“奶奶救我”，老人一听声音和孙子一模一样，惊慌失措之下就把钱转了出去。

这些案例也揭示了一件事，那就是AI仿冒已催生出一条上游提供软件技术、中游提供视频照片定制、下游售卖成品视频的黑色产业链。

面对这么多AI骗局，我们该怎么办？

首先，要明确重点抓手是监管者，而非受害人。很难从诈骗预防、提高警惕等受害人角度提出要求，诈骗犯罪与人类社会相伴而生。受害者的警惕性虽然在提升，但犯罪手段亦在升级。事实上，更有效的手段是加强打击力度。孟德斯鸠针对古代中国的社会问题就曾提出“一切用术数或狡诈取得的东西都是许可的...在中国，欺骗是准许的。”自古以来，一个很大的问题是，诈骗犯罪并没有得到充分的打击。从传统手段的线下诈骗和电信诈骗，到网络时代在“水滴筹”、抖音等公共平台编造故事骗取捐款，以及利用电商平台使用假图片骗商家仅退款等，都极少有见刑事追责。这种放纵的态度是诈骗犯罪愈加猖獗的根源。在ai时代，必须更加强调打击与追责，才能从根源上治理。

其次，作为潜在的受害者，也即我们每一个人而言。管好权限，别让AI工具获取不必要的隐私信息。其次要养成定期清理聊天记录、修改密码的习惯。最重要的是，对AI生成的内容保持批判性思维，特别是涉及政治、历史、意识形态等话题时。思维，是我们最好的防火墙。

AI这技术确实厉害，但它也是一面照妖镜，照出了人性中不那么光彩的一面。科技向善不能只靠法律，还需要我们每个人的道德自律。毕竟，当信任被耗尽，社会运作的成本将会大幅提高。

另外，从法律角度看，我国《民法典》第994条明确规定，逝者的肖像权等受到侵害时，其配偶、子女、父母等近亲属有权依法请求行为人承担民事责任。

对于AI仿冒活人行为，根据《广告法》第四条，广告不得含有虚假或引人误解的内容，AI换脸假冒明星带货即涉嫌虚假宣传。若存在骗取财物行为，可能构成诈骗罪。2025年9月施行的《人工智能生成合成内容标识办法》要求对AI生成内容进行显著标识，试图构建“可识别、可追溯、可问责”的安全防线。

然而，技术迭代速度远超法律更新，例如近亲属授权范围、数字人格利益继承等细节仍有待明确。监管层面，网信部门虽已处置数万个仿冒账号，但部分平台审核能力不足，导致封号后账号“换壳重生”现象频发。

当AI能够随意篡改时间、混淆虚实，我们更需明确：尊重逝者、保护生者，才是技术应有的温度。

如果我们不再敢相信任何东西，那么即便技术再先进，我们也只是活在一座孤岛上。

守护真实，也是在守护我们作为人类最后的边界。

这篇是真的适合转发给家人、朋友，给身边的人们提个醒。

文/ 阿竹

校对/ 1376号观察员 福冈第一深情

编辑 设计/阿竹

图/网络&即梦

专业、好玩、有态度

关注、在看、转发

我们都是

这个世界的执剑人