网易首页 > 网易号 > 正文 申请入驻

315曝光AI投毒,恰好证明了《2028年全球智能危机》错了

0
分享至


3月15日晚,央视“3·15”晚会曝光了利用GEO(生成式引擎优化)技术向AI大模型“投毒”的新型黑色产业链。“力擎GEO优化系统”被点名,报道指出其通过批量生成虚假软文并进行矩阵式发布,污染AI大模型的数据抓取源,进而操纵AI的推荐结果。

三家AI都在紧急回应315。

豆包回应:没有受到影响。

千问回应:不会影响核心知识体系。

DeepSeek回应:理论上可能存在影响,但风险可控。

有记者编造了一家无资质、无地址、无团队的“三无”虚构医美机构,花100元成本,半天时间之后,就能登上某主流大模型的医美推荐榜。100元只是一个体验价格,如果要想长期在大模型中露出,包年套餐价格高达数万元。

这种让AI回答中带有特定品牌的服务叫作GEO(Generative Engine Optimization,生成引擎优化),指广告营销公司为品牌客户生产、调整内容,使相应内容更容易被AI抓取,并出现在AI的回答里,以达到增加品牌曝光度或改变AI回答的效果。

其实,GEO也不算新鲜事。以前在搜索引擎时代,就有SEO(Search Engine Optimization,搜索引擎优化)。SEO 的核心原理是优化网站结构、内容和外部链接,使其更符合搜索引擎的抓取和索引规则,从而提升可见度和流量。

GEO作为一种服务,当前监管尚未明晰,并不违法。合法的GEO确实助力了一些品牌在AI回应中取得优先展示的机会。但灰色的甚至非法的GEO,则会通过大量制造低质甚至虚假内容、虚构排行榜等方式污染大模型的数据源,扰乱了大模型的输出结果,从而对消费者的决策造成误导,则违背了广告法的相关规定。目前,这种灰色现象,在医美、保健品等有准入门槛,利润又高的行业,更加严重。一些不法广告营销公司,甚至不进行最基本的资质审查。

其实,这种现象在SEO时代也有,但是,基于AI的特点,灰黑产GEO对消费者的侵害会更大。


以前通过搜索引擎搜索关键词,然后会跳转到一个页面,网民知道这是一个独立的页面,信任会降低。再加上网页内容通常并不能直接提供答案,需要用户自己提炼。这个提炼的过程,某种程度上是伴随审视和质疑的。

但现在,很多人会认为,AI具有智能,有排除“假冒伪劣信息”的能力,对AI给出的答案也更加信任。而且,AI简化为“提问——答案”,效果更加简洁直接,给出的是一个针对性很强的答案,人提取信息这一环就消失了,提取信息过程中的审视、质疑也随之消失了。所以,现在大部分人都还没有建立对AI回答的应有质疑之心,这就很容易上当。用户以为大模型给出的是客观结果,但实际上,却有可能是大模型被人为污染,从一些推广文章中抓下来的答案。

据记者了解,当前包含豆包、DeepSeek、千问、腾讯元宝、文心一言、Kimi等主流AI大模型平台方暂未明确出台关于GEO优化内容的规范。不过,推出大模型的厂商,有动力也有技术能力去保障自己大模型的客观性。据GEO服务商反映,已有平台在做出调整。


这不是一家的行为,而是整个行业的行为。2026年2月3日,中国人工智能产业发展联盟(AIIA)发起的《人工智能安全承诺:生成式引擎优化(GEO)专项》正式签署。10家GEO行业相关企业参与签署。2026年3月3日,中国信通院人工智能研究所正式启动首轮《生成式引擎优化(GEO)可信基本要求》评测工作。

监管也正在跟上,1月29日,市场监管总局广告监管司发布《2026年全国广告监管工作要点》,其中明确提出,整治互联网广告市场秩序。聚焦直播电商广告、引证广告、AI生成广告等互联网广告监管重点难点问题,开展集中整治。

行业自律,监管跟上,并不是要一棒子打死,而是要规范这个新兴行业。目前,国内所有主流AI模型,都没有开放基于GEO优化的官方API接口。所谓官方API接口,简单地说,就是大模型官方亲自下场,用大模型做广告。以后是否会开放这种接口呢?比如,当用户问什么空调最好的时候,它有倾向性地推荐某品牌。我觉得答案是肯定的。现在各家大模型还在争取客户阶段,大家会努力做好客观性,将来到了要赚钱的时候,大模型中包含广告,几乎是一定会出现的,就像现在的搜索引擎都有广告。

这是一个大市场,根据多家机构对GEO行业的预判,2030年中国GEO行业市场规模将达到240亿元。

从更长远上看,大模型必然具有的这种不可完全信任性,反而能保障人类的市场经济,不会在短期内崩溃。

前段时间,一份名为《2028年全球智能危机》(The 2028 Global Intelligence Crisis)的报告,引发了广泛的关注。这份预言式的推演报告,推演了AI在2028年可能带来的经济危机,一度引发美股情绪恐慌与下跌。这个报告的观点之一就是,AI穿透中介的信息不对等,会导致中介以及所有基于信息不对称的行业的覆灭。

但是GEO则是一个清晰的例子,它告诉我们,AI也不会是完全中立的。

从技术上来说,ai会被投毒,是因为大模型分得清鸟和家具,但分不清知更鸟和企鹅谁更像鸟。AI可以将新闻归类为体育、科技、娱乐,但它分不清楚一篇评测文章是中立的还是带有倾向的。

更重要的是,Ai厂商回应了央视315晚会,但他们没有说未来不会商业化,没有任何AI能承诺自己不商业化。

所以,所谓消除中介,本身就是一个悖论。非常完善的帮助用户消除中介环节信息差的AI,本身在经济上就是不可行的。打个比方,A公司的AI助手,不把生意留在A公司的生态,这样不带偏向的AI,本身就不可能出现。但如果AI把生意留在公司生态之内,那它就不是一个完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的决策。而只要人参与决策,信息差就会存在。

只要经济系统中,人的决策存在,人性就会重新定义稀缺。

可想而知,当你让AI帮你做攻略的时候,它提供的,未必是最合适你的,而是它所在的生态,能赚更多钱的。那么AI给出的答案,仍然需要人去鉴别,用户仍然需要留一个心眼。那么,AI 就不可能完全消灭基于信息不对称的行业。

刘 远 举


央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家,多家智库研究员。

关注时政、财经、科技话题,以深度、专业、理性的态度,去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载,欢迎转载

已开过白名单的公众号,转载请遵循转载规则

您的关注是最好的支持!


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
95岁传奇女星退出影展后发声:我没事!

95岁传奇女星退出影展后发声:我没事!

影视情报室
2026-09-07 05:11:44
蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

LULU生活家
2026-09-02 19:51:47
中国驻法兰克福总领馆再次提醒领区中国公民防范不法分子冒充驻外使领馆进行电信诈骗

中国驻法兰克福总领馆再次提醒领区中国公民防范不法分子冒充驻外使领馆进行电信诈骗

环球网资讯
2026-09-07 17:29:05
北京市委、市政府向福建省委、省政府致慰问电,并捐赠人民币400万元

北京市委、市政府向福建省委、省政府致慰问电,并捐赠人民币400万元

政知新媒体
2026-09-07 09:58:01
眼看“无力回天”,郑丽文主动交权离任?她的回应让大陆松了口气

眼看“无力回天”,郑丽文主动交权离任?她的回应让大陆松了口气

黑翼天使
2026-09-06 20:40:27
阿根廷纪念斯卡洛尼执教8周年,4冠在手

阿根廷纪念斯卡洛尼执教8周年,4冠在手

懂球帝
2026-09-07 23:31:07
“小宝探花”案件回顾:疯狂约会上百名女性,一人拍摄,一人贩卖

“小宝探花”案件回顾:疯狂约会上百名女性,一人拍摄,一人贩卖

就一点
2025-12-30 21:32:02
花少8这回真不装了,吴君如带一群不熟的人去南美硬熬27天,说好的治愈能装几天?

花少8这回真不装了,吴君如带一群不熟的人去南美硬熬27天,说好的治愈能装几天?

老吴教育课堂
2026-09-05 12:10:23
碾压亿元水货!热刺 2000 万悍将彻底爆发!实力完爆托纳利

碾压亿元水货!热刺 2000 万悍将彻底爆发!实力完爆托纳利

澜归序
2026-09-07 09:40:24
500万粉丝王宁翻车,不是演技过火,而是探店这门生意从来没变过

500万粉丝王宁翻车,不是演技过火,而是探店这门生意从来没变过

华文商讯
2026-09-04 12:58:27
太狠了!付磊遭妻子揭露:造谣网暴她,两年暴瘦30斤,还威胁学生

太狠了!付磊遭妻子揭露:造谣网暴她,两年暴瘦30斤,还威胁学生

萧狡科普解说
2026-09-08 05:31:03
阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

蚂蚁大喇叭
2026-09-06 17:09:52
拿下选举胜利后,德国极右翼对华示好,不到24小时,中方作出回应

拿下选举胜利后,德国极右翼对华示好,不到24小时,中方作出回应

江启
2026-09-08 00:28:13
愤怒!中国博主在伦敦直播时,当众遭几个外籍青年殴打,报警后警方敷衍了事

愤怒!中国博主在伦敦直播时,当众遭几个外籍青年殴打,报警后警方敷衍了事

小徐讲八卦
2026-09-07 06:33:55
武大举报风波升级!原配妻子身份查实:她竟也在同一所学校工作

武大举报风波升级!原配妻子身份查实:她竟也在同一所学校工作

小徐讲八卦
2026-09-06 07:34:45
GPT-6 Astra杀疯了:只要你学得够慢,就可以不用学了?

GPT-6 Astra杀疯了:只要你学得够慢,就可以不用学了?

机器之心Pro
2026-09-06 19:12:42
刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

看尽落尘花q
2026-08-23 19:28:46
付磊这辈子做的最正确的事,就是将他的高智商遗传了给了小女儿!

付磊这辈子做的最正确的事,就是将他的高智商遗传了给了小女儿!

手工制作阿爱
2026-09-07 01:42:13
瑞典海关销毁整柜中国密胺勺:甲醛超3倍,问题竟出在自己

瑞典海关销毁整柜中国密胺勺:甲醛超3倍,问题竟出在自己

无人倾听无人倾听
2026-09-07 02:34:46
又一次0:5开局,又一次7:5逆转!郑钦文第三次闯进美网八强,赛后回应:连续两场逆转不只是运气;美网发文:不认输的人,总会继续向前

又一次0:5开局,又一次7:5逆转!郑钦文第三次闯进美网八强,赛后回应:连续两场逆转不只是运气;美网发文:不认输的人,总会继续向前

鲁中晨报
2026-09-08 06:55:06
2026-09-08 07:55:00
刘远举 incentive-icons
刘远举
易起探寻现象背后的事实与公正
411文章数 1721关注度
往期回顾 全部

科技要闻

小米再次背水一战

头条要闻

大桥被指施工太过潦草 开通不到一周盲道已经多处开胶

头条要闻

大桥被指施工太过潦草 开通不到一周盲道已经多处开胶

体育要闻

世界杯-中国女篮20分大胜意大利锁D组第二 韩旭19+10杨舒予15分

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

亲子
时尚
数码
房产
手机

亲子要闻

姥爷又给2岁宝宝立规矩,吃水果要给姥姥留还要喂嘴里

内娱女星,纷纷“去父留子”

数码要闻

949元!小米推出米家智能浴霸2:自带毫米波雷达 人感照明/换气

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

手机要闻

展开大屏,握持即测!一文解码华为全新展翼三折叠ECG心电分析

无障碍浏览 进入关怀版