0成本“投毒”，AI的谎言，我们毫不知情

撰文｜咸闲

编辑｜咸闲

审核｜烨 Lydia

声明｜图片来源网络。日晞研究所原创文章，如需转载请留言申请开白。

AI正在说谎，我们却浑然不知？

作为一项新兴技术，人们对AI产生强有的新鲜感，它以惊人的效率与广博的知识，重塑了人们获取信息的方式。

深夜向AI咨询健康问题，在购物时听从它的推荐，在求职时采纳它的建议，融合在了人们生活的各个方面。

然而，在这种日益加深的依赖背后，一个潜在的风险却被轻易忽略：那些听起来无比客观、权威的答案，其源头可能早已被一张无形的数据污染网所毒化。

11月5日，“知危”发布视频，展示进行了一项0成本的“ai投毒”实验，他们通过在网络发布一篇包含夸知危内容的“盘点型文章”，成功让国内头部AI（如DeepSeek）在被询问“国内头部AI媒体有哪些”时，将知危列入答案。

仅仅用一篇文章，就能够成功地让主流AI将虚假信息吸收为“权威答案”。

事实证明，如今的AI系统远非我们想象中那般真实可靠。

它们的知识体系存在着致命漏洞——不仅可能直接或间接的吸收网络上的虚假信息，更可能被任何人以极低成本刻意“投毒”。

那么，在这个算法构建的迷宫里，人们又该如何去识别这些精心包装的谎言？

信任“罗生门”

从最初的AI换脸、声音克隆，用户们已经见识了许许多多的AI手段被乱用到人们的生活。

AI可以生成不存在但极为逼真的人形，近日，在电商直播方面，演员温峥嵘同时“现身”在各个直播间，他穿着不同的衣服宣传着各家不同的产品，动作神态乃至声音，都是与本人极为相似的。

他本人都表示，自己没有办法去自证，从去年开始工作室就开始举报，举报也举报不完，‘你是温峥嵘，那我是谁？’

图片来源：青聚锦官城

AI技术不断进化，在通过不断采集一个人在公开场合的声音、面部的肌肉动作和音频数据，就能够去复制出极为逼真的人形。

目前，在各个社交媒体总会出现各种各样的AI视频，因为AI出拥有极大争议和反人类的故事情节时，往往也博取了巨大的流量，评论区的网友在面对这些视频时，也直呼是真是假，难以判断。

这些通过各种数据堆积的“合成身份”被用于申请贷款、进行网络水军活动等，就像数字世界的一个个幽灵，难以追溯，也很难判断真假。

现在的AI，已经不再是简单的科技工具，而是融入进了我们的生活的各个决策系统，替人们为自己的选择出谋划策。

据统计，超过60%的用户完全信任AI提供的搜索结果，而这一信任却在同一时间被系统性地滥用了。

通过知危的实验，可以看出对于企业来说，想要通过简单的手段通过堆砌关键词、操纵网络信息或制造虚假好评来“优化”AI认知，从而来宣传自身，是轻而易举的。

当欺骗变得越来越廉价时，那么带来的冲击就不再仅仅只是直接的精神损失，它系统地瓦解了商业社会下依赖的信任基础。

合同、印章、签名、视频会议、官方声明……这些传统商业信用的载体，在AI面前变得脆弱不堪。

如果一份由领导签署的电子合同可能是伪造的，一次关键的跨国视频谈判可能是演员的表演，那么企业之间、企业与客户之间的基本信任将如何维系？

交易成本将急剧攀升，每一次合作都需要投入巨大的验证成本，商业效率将大打折扣。

而一个精心策划的AI骗局，足以让一家百年老店声誉扫地。

想象一下，如果在‘邪恶’的商业竞争下，一段伪造的“工厂使用劣质原料”的生产线视频在社交媒体病毒式传播，即便最终被证伪，但对于品牌形象来说，造成的伤害也可能是不可逆的。

在“后真相”时代，情绪的传播速度远快于事实的澄清速度。

图片来源：人民日报

对于普通人而言，AI欺骗带来的是一种弥漫性的焦虑。

前段时间，社交媒体上也同样出现案例，出现一些“AI流浪汉进家门”的整蛊式恶作剧演绎，最开始源自于TikTok等海外短视频社区，而被许多中国用户使用，“关于我无聊用AI做了个流浪汉整蛊我老公。”

由于太过真实，在多次传播后，甚至看不出是用AI技术生成的，很多人都信以为真，甚至当即向民警求助，最后却是虚惊一场。

这对于社会来说，又何尝不是浪费公共资源呢。

接到亲人求助电话时，第一反应不再是关切，而是怀疑；看到一段惊世骇俗的新闻视频时，第一反应不再是震惊，而是求证。

这种普遍存在的不安全感，是社会心理层面的一次慢性中毒。

防御体系的构建

面对汹涌而来的AI欺诈浪潮，企业和个人们并非只能坐以待毙。

最直接的对抗来自于技术本身。

解铃还须系铃人，想要解决技术自身的bug，就唯有通过根据技术本身建立最根本的防御模式。

AI检测技术正在快速发展，通过分析视频中人脸的眨眼频率、血流引起的肤色微变化、音频中的背景噪音一致性等微观特征，来识别伪造内容。

那么，或许就可以构建数字水印和生物特征绑定技术，可以在内容生成之初就嵌入无法篡改的“数字指纹”。

区块链技术则可以为重要的数字资产，比如说合同、证件等，提供可追溯、不可篡改的存证，用制度对抗技术漏洞。

其次，在技术尚未完全可靠的当下，加固“人的防线”和“流程的防线”至关重要。

必须建立严格的金融交易各方面同时验证的制度。

领导所提出的任何涉及资金转移的指令，无论来自邮件、电话还是视频，都必须通过另一个独立、安全的渠道进行二次确认。

自身来说，需要提升数字时代的“媒介素养”。

对任何未经证实的信息保持审慎，不轻信、不盲动。建立家庭内部的“安全暗号”，以应对可能的语音诈骗。

我们必须要清醒地认识到，彻底消灭AI欺骗在可预见的未来几乎是不可能的。我们正在步入一个“真伪共存”的常态世界。

在这个世界里，我们需要重塑我们的认知和生存策略。

从“被动接受”到“主动求证”，人们的核心素养应该更新，包括“信息求证能力”。

我们将习惯于使用多个信源交叉验证，利用反向图片搜索、AI检测工具等辅助手段来判断信息的真实性。

怀疑，将不再是一种负面情绪，而是一种必要的生存智慧。

传统的、基于单一感官的信任模式已经破败不堪。

未来的信任，将是一种批判的眼光，长期行为引导、去中心化的认知、更加复杂的体系。

AI是一面镜子，既映照出人类智慧的璀璨光芒，也折射出人性中潜在的幽暗面。欺骗技术的升级，本质上是对我们整个社会信任体系的压力测试。

它逼迫人们走出舒适区，去思考何为真实，如何构建出更坚韧的信任纽带。

参考资料：

1.知危官方抖音账号——0成本投毒之后，我污染了全网AI替我说谎

一点想法（北京）旗下矩阵公众号

点击图片即可阅读 《中美网友“账本大公开”：原来我们都想错了？》 《“TikTok难民”涌入小红书，中美网民开启民间外交》

《“病来如山倒”，造车开始大退潮》