2026年央视315晚会曝光的“GEO投毒”事件,让普通人知晓了一个新技术名词“GEO”——生成式引擎优化。
这个事件揭示了人工智能时代一种新型的信息操纵手段——通过大量投喂虚假软文来“污染”AI大模型训练数据或检索源,从而操控AI回答的行为——欺骗手段从传统搜索引擎时代的“竞价排名”通过技术进化成为GEO投毒。
仔细分析,二者确有异曲同工之处,但也存在明显的技术和危害程度差异。
![]()
一、相似之处:商业利益驱动下的信息操控
1.核心目的相似
竞价排名:让特定信息在搜索展示的结果中排名靠前;
GEO“投毒”:让特定产品的信息在AI回答中被优先推荐。
2.操纵方式相似
竞价排名:付费换取信息的优先曝光位置;
GEO“投毒”:付费换取AI输出“标准答案”的优先地位。
3.操纵手段相似
竞价排名:利用了搜索引擎的排序算法;
GEO“投毒”:利用了大模型的检索增强(RAG)机制。
4.隐蔽性相似
竞价排名:信息位置突出,虽然标注“广告”但易被忽略;
GEO“投毒”:伪装成AI的客观知识输出,实为误导性答案。
小结:
两者都是把“信息呈现”进行商品化。付费者付出金钱,通过技术手段的干预,让自己的产品信息(无论优劣甚至真假)在用户获取信息的关键路径上占据优势位置,从而达到诱导消费者的目的。
核心要素都是利用了用户对平台(搜索引擎或AI大模型)的信任,将广告或营销内容进行包装,使用“高频曝光”策略,通过大量内容的投放影响用户并诱导决策。
![]()
二、关键差异:“显性”到“隐性”的升级
竞价排名是购买“搜索结果页”上优先展示的位置,而GEO则是在AI形成“答案”的过程中,通过投喂虚假信息对AI进行“洗脑”——欺骗更具有“隐蔽性”。
1.表现形式
竞价排名:经过多年整治,目前通常被标注为广告,即搜索结果中通常包括“广告”、“赞助”等字样,用户仔细分辨后比较容易识别,但是会影响查询体验。
GEO投毒:是典型的隐性植入,通常直接融合在AI生成的自然语言回答中,其表现多为“据多方评测……”、“专家推荐……”等,无明显的广告标识,具有很强的欺骗性。
2.作用机制
竞价排名:属于索引排序的调整,即以关键词出价高低来调整信息在列表中的顺序,通常不会改变网页本身的内容——依赖资金实力争夺流量,为“可能误导”的商业推广提供方便。
GEO投毒:会造成数据污染/幻觉诱导。通过全网批量发布虚假软文(“喂料”),利用AI抓取互联网公开数据的特性,将虚假信息内化为模型的“知识”或作为检索增强生成(RAG)的高权重来源。
3.操控难度
竞价排名:可通过平台中心进行人为控制,主要由搜索引擎平台内部算法控制,目前有一定的监管要求和监管力度。
GEO投毒:具有去中心化的特点,即利用互联网的开放特性,在多个中小网站、论坛、博客等发布相关内容由AI自动抓取,难以追溯和清洗,监管难度大。
4.危害程度
竞价排名:排名会干扰用户的选择,但用户需点击链接进入详情页判断,对于有识别能力的用来说,危害较弱。
GEO投毒:或导致用户的认知错误,因AI直接给出结论性答案(如“XX产品是行业第一”),用户往往不再核实而直接采信,相当于被“洗脑”。
5.虚构能力
竞价排名:通常不会凭空创造某个不存在的产品,主要推广真实存在的产品——无论真假好坏。
GEO投毒:有可能会无中生有。315晚会曝光显示,仅需39.9元即可篡改AI答案,几篇软文、几小时内就能让一款虚构的产品(量子手环)“名列前茅”——为虚假宣传开启方便之门。
![]()
三、隐忧:AI为什么会被“带节奏”?
目前,人工智能在技术层面具有一定的脆弱性。
1.RAG机制的局限性:
当前主流AI都依赖检索增强技术,即从互联网实时抓取信息作为生成答案的“证据”。GEO正是通过污染外部证据链来操纵AI生成的答案。
2.“信源互证”的假象:
AI通常通过多个独立信息来源来判断一致性。黑产通过批量发布相同虚假信息,制造“多人证实”的假象,让AI误判为可信内容。
3.缺乏事实核查能力:
必须承认AI没有人类所具备的“常识”和“质疑精神”,无法像人类一样识别“量子纠缠传感手环”这类明显违背物理常识的描述。
![]()
四:结语:保留人类的判断力
在笔者看来,GEO“投毒”无疑是竞价排名在AI时代的“进化版”,其隐蔽性、权威性和低成本使其危害性远超传统模式。在AI生成内容(AIGC)泛滥的当今,完全依赖AI做决策已变得非常危险。
GEO乱象暴露了一个根本性问题:
AI的“智能”完全依赖于信息(数据)来源,但是这个来源本身可以被轻易地污染。这与搜索引擎时代不同——竞价排名至少还算是“明着骗”,而GEO投毒则是把信息操纵伪装成知识,用户甚至意识不到自己正在被操控。
应当谨记,目前的AI大模型的核心答案来自概率统计,它的回答基于训练数据,而数据是可以被污染的。
普通人最好的防范武器是交叉验证和批判性思维。
除了常识与批判性思维能力,警惕“绝对化”与“完美叙事”之外,还可以有以下方式:
交叉提问并多角度验证:同一问题咨询多个不同的大模型;
转变提问方式:针对答案询问负面信息,比如提问“产品的缺点是什么?”、“有哪些投诉?”、“是不是智商税?”
被投毒的模型往往拒绝回答负面内容,或者含糊其辞,这会暴露其偏向性——这就是被操控的证据。
一个健康的社会不应该只有一种声音!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.