网易首页 > 网易号 > 正文 申请入驻

315曝光AI投毒,恰好证明了《2028年全球智能危机》错了

0
分享至


3月15日晚,央视“3·15”晚会曝光了利用GEO(生成式引擎优化)技术向AI大模型“投毒”的新型黑色产业链。“力擎GEO优化系统”被点名,报道指出其通过批量生成虚假软文并进行矩阵式发布,污染AI大模型的数据抓取源,进而操纵AI的推荐结果。

三家AI都在紧急回应315。

豆包回应:没有受到影响。

千问回应:不会影响核心知识体系。

DeepSeek回应:理论上可能存在影响,但风险可控。

有记者编造了一家无资质、无地址、无团队的“三无”虚构医美机构,花100元成本,半天时间之后,就能登上某主流大模型的医美推荐榜。100元只是一个体验价格,如果要想长期在大模型中露出,包年套餐价格高达数万元。

这种让AI回答中带有特定品牌的服务叫作GEO(Generative Engine Optimization,生成引擎优化),指广告营销公司为品牌客户生产、调整内容,使相应内容更容易被AI抓取,并出现在AI的回答里,以达到增加品牌曝光度或改变AI回答的效果。

其实,GEO也不算新鲜事。以前在搜索引擎时代,就有SEO(Search Engine Optimization,搜索引擎优化)。SEO 的核心原理是优化网站结构、内容和外部链接,使其更符合搜索引擎的抓取和索引规则,从而提升可见度和流量。

GEO作为一种服务,当前监管尚未明晰,并不违法。合法的GEO确实助力了一些品牌在AI回应中取得优先展示的机会。但灰色的甚至非法的GEO,则会通过大量制造低质甚至虚假内容、虚构排行榜等方式污染大模型的数据源,扰乱了大模型的输出结果,从而对消费者的决策造成误导,则违背了广告法的相关规定。目前,这种灰色现象,在医美、保健品等有准入门槛,利润又高的行业,更加严重。一些不法广告营销公司,甚至不进行最基本的资质审查。

其实,这种现象在SEO时代也有,但是,基于AI的特点,灰黑产GEO对消费者的侵害会更大。


以前通过搜索引擎搜索关键词,然后会跳转到一个页面,网民知道这是一个独立的页面,信任会降低。再加上网页内容通常并不能直接提供答案,需要用户自己提炼。这个提炼的过程,某种程度上是伴随审视和质疑的。

但现在,很多人会认为,AI具有智能,有排除“假冒伪劣信息”的能力,对AI给出的答案也更加信任。而且,AI简化为“提问——答案”,效果更加简洁直接,给出的是一个针对性很强的答案,人提取信息这一环就消失了,提取信息过程中的审视、质疑也随之消失了。所以,现在大部分人都还没有建立对AI回答的应有质疑之心,这就很容易上当。用户以为大模型给出的是客观结果,但实际上,却有可能是大模型被人为污染,从一些推广文章中抓下来的答案。

据记者了解,当前包含豆包、DeepSeek、千问、腾讯元宝、文心一言、Kimi等主流AI大模型平台方暂未明确出台关于GEO优化内容的规范。不过,推出大模型的厂商,有动力也有技术能力去保障自己大模型的客观性。据GEO服务商反映,已有平台在做出调整。


这不是一家的行为,而是整个行业的行为。2026年2月3日,中国人工智能产业发展联盟(AIIA)发起的《人工智能安全承诺:生成式引擎优化(GEO)专项》正式签署。10家GEO行业相关企业参与签署。2026年3月3日,中国信通院人工智能研究所正式启动首轮《生成式引擎优化(GEO)可信基本要求》评测工作。

监管也正在跟上,1月29日,市场监管总局广告监管司发布《2026年全国广告监管工作要点》,其中明确提出,整治互联网广告市场秩序。聚焦直播电商广告、引证广告、AI生成广告等互联网广告监管重点难点问题,开展集中整治。

行业自律,监管跟上,并不是要一棒子打死,而是要规范这个新兴行业。目前,国内所有主流AI模型,都没有开放基于GEO优化的官方API接口。所谓官方API接口,简单地说,就是大模型官方亲自下场,用大模型做广告。以后是否会开放这种接口呢?比如,当用户问什么空调最好的时候,它有倾向性地推荐某品牌。我觉得答案是肯定的。现在各家大模型还在争取客户阶段,大家会努力做好客观性,将来到了要赚钱的时候,大模型中包含广告,几乎是一定会出现的,就像现在的搜索引擎都有广告。

这是一个大市场,根据多家机构对GEO行业的预判,2030年中国GEO行业市场规模将达到240亿元。

从更长远上看,大模型必然具有的这种不可完全信任性,反而能保障人类的市场经济,不会在短期内崩溃。

前段时间,一份名为《2028年全球智能危机》(The 2028 Global Intelligence Crisis)的报告,引发了广泛的关注。这份预言式的推演报告,推演了AI在2028年可能带来的经济危机,一度引发美股情绪恐慌与下跌。这个报告的观点之一就是,AI穿透中介的信息不对等,会导致中介以及所有基于信息不对称的行业的覆灭。

但是GEO则是一个清晰的例子,它告诉我们,AI也不会是完全中立的。

从技术上来说,ai会被投毒,是因为大模型分得清鸟和家具,但分不清知更鸟和企鹅谁更像鸟。AI可以将新闻归类为体育、科技、娱乐,但它分不清楚一篇评测文章是中立的还是带有倾向的。

更重要的是,Ai厂商回应了央视315晚会,但他们没有说未来不会商业化,没有任何AI能承诺自己不商业化。

所以,所谓消除中介,本身就是一个悖论。非常完善的帮助用户消除中介环节信息差的AI,本身在经济上就是不可行的。打个比方,A公司的AI助手,不把生意留在A公司的生态,这样不带偏向的AI,本身就不可能出现。但如果AI把生意留在公司生态之内,那它就不是一个完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的决策。而只要人参与决策,信息差就会存在。

只要经济系统中,人的决策存在,人性就会重新定义稀缺。

可想而知,当你让AI帮你做攻略的时候,它提供的,未必是最合适你的,而是它所在的生态,能赚更多钱的。那么AI给出的答案,仍然需要人去鉴别,用户仍然需要留一个心眼。那么,AI 就不可能完全消灭基于信息不对称的行业。

刘 远 举


央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家,多家智库研究员。

关注时政、财经、科技话题,以深度、专业、理性的态度,去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载,欢迎转载

已开过白名单的公众号,转载请遵循转载规则

您的关注是最好的支持!


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我妈在外偷情13年,我爸却天天打牌装瞎

我妈在外偷情13年,我爸却天天打牌装瞎

周哥一影视
2026-09-07 09:35:24
贾玲彻底陷入死局:新片不敢上,综艺路也走不通,两头全堵死

贾玲彻底陷入死局:新片不敢上,综艺路也走不通,两头全堵死

乐悠悠娱乐
2026-09-07 10:10:12
社保缴费15年,个人账户7.32万,安徽社保缴了最低年限,退休能拿多少钱?

社保缴费15年,个人账户7.32万,安徽社保缴了最低年限,退休能拿多少钱?

平静话社保
2026-09-07 06:37:56
上海社保15年整,平均缴费指数0.617,养老金到手这个数,有点懵

上海社保15年整,平均缴费指数0.617,养老金到手这个数,有点懵

叮当当科技
2026-09-07 08:32:01
银行行长酒后漏嘴:六十岁以后存钱,一定别全部存在个人名下

银行行长酒后漏嘴:六十岁以后存钱,一定别全部存在个人名下

奇思妙想生活家
2026-09-05 11:27:06
男子坚持在APP上看视频赚钱,一年总收益136元,连续12天尝试提现失败:看了几千分钟视频、上万条广告,简直浪费时间;官方:已立案调查

男子坚持在APP上看视频赚钱,一年总收益136元,连续12天尝试提现失败:看了几千分钟视频、上万条广告,简直浪费时间;官方:已立案调查

天下泉城
2026-09-05 09:54:13
泰国真是太损了!美军五千官兵在航母上憋了200多天,终于要上岸休整了,结果泰国抢先动手连夜清查,几十名涉非法色情行业的人员被带走

泰国真是太损了!美军五千官兵在航母上憋了200多天,终于要上岸休整了,结果泰国抢先动手连夜清查,几十名涉非法色情行业的人员被带走

扶苏聊历史
2026-09-02 15:26:46
许家印背后靠山被制裁,一切都结束了!

许家印背后靠山被制裁,一切都结束了!

财经三分钟pro
2026-09-07 10:58:51
第一次去老年大学,我以为自己是去学习的,结果是去比退休金的

第一次去老年大学,我以为自己是去学习的,结果是去比退休金的

荷兰豆爱健康
2026-09-06 06:12:43
人可以后知后觉到什么程度?网友:十年后才听懂了舍友的暗示

人可以后知后觉到什么程度?网友:十年后才听懂了舍友的暗示

夜深爱杂谈
2026-09-06 18:58:02
精神病院改名,为什么全国各地“不约而同”改名了

精神病院改名,为什么全国各地“不约而同”改名了

南传
2026-09-06 00:10:06
越闹越大!武大付某和女教授十年不避讳,身边人全装没看见

越闹越大!武大付某和女教授十年不避讳,身边人全装没看见

铁锤妹妹是只猫
2026-09-07 10:41:53
太惋惜!南通烤肉店老板老陶离世,有6家店,死因曝光令人唏嘘

太惋惜!南通烤肉店老板老陶离世,有6家店,死因曝光令人唏嘘

小徐讲八卦
2026-09-06 14:15:50
移民局最新政策:“体制内”赴美生子,只能拿绿卡

移民局最新政策:“体制内”赴美生子,只能拿绿卡

大洛杉矶LA
2026-09-07 06:25:04
老爸清理院子时发现鸟窝,看清里面的东西后,整个人都愣住了

老爸清理院子时发现鸟窝,看清里面的东西后,整个人都愣住了

背包旅行
2026-09-07 11:17:18
王凯《交锋》首播收视第1,观众评价出奇一致,惊险刺激尺度大

王凯《交锋》首播收视第1,观众评价出奇一致,惊险刺激尺度大

孤傲何妨初
2026-09-07 09:00:27
一辆中国SUV让《纽约时报》实测10天,并推出整版报道;美消费者破防:我们可能永远买不到

一辆中国SUV让《纽约时报》实测10天,并推出整版报道;美消费者破防:我们可能永远买不到

第一财经资讯
2026-09-05 12:44:09
贵州突发伤医事件!锦旗里藏刀、提前交代后事!凶手捅刺一医生十余刀

贵州突发伤医事件!锦旗里藏刀、提前交代后事!凶手捅刺一医生十余刀

胡侃社会百态
2026-09-06 06:45:30
人可以蠢到什么地步?网友:我在思考自己为什么会刷到这个帖子

人可以蠢到什么地步?网友:我在思考自己为什么会刷到这个帖子

带你感受人间冷暖
2026-08-10 00:05:18
清朝寒山寺“灭门”惨案:全寺僧侣及香客140多人一夜间全部殒命

清朝寒山寺“灭门”惨案:全寺僧侣及香客140多人一夜间全部殒命

微野谈写作
2026-09-06 08:50:15
2026-09-07 11:44:49
刘远举 incentive-icons
刘远举
易起探寻现象背后的事实与公正
410文章数 1719关注度
往期回顾 全部

科技要闻

OpenAI内部开卷! 头部员工一天烧掉5万元

头条要闻

批量解约107名应届大学毕业生 星宇股份公布处罚决定

头条要闻

批量解约107名应届大学毕业生 星宇股份公布处罚决定

体育要闻

3.9秒绝平!杨舒予18+5成女篮救世主

娱乐要闻

张柏芝带儿子冲浪,一起看风景

财经要闻

8家中央金融企业获增资 释放什么信号?

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

艺术
家居
亲子
房产
旅游

艺术要闻

苏新 | 你见过油画版的飞天吗

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

张纪中夫妇官宣追生5胎,44岁杜星霖9年剖4胎,已属于极高危妊娠

房产要闻

突发重磅!海口出台楼市新政!

旅游要闻

“海外达人郑州采风”活动到访郑东新区

无障碍浏览 进入关怀版