网易首页 > 网易号 > 正文 申请入驻

从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识

0
分享至

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。


出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双头虾”配图引发争议,出版社回应称正通知下架并召回。知情人士对界面新闻表示,图片原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

一只虾多长了一个头,谁都知道有问题。可如果一只蜂鸟被画出了麻雀般的长腿,又有多少人能看出来?

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的贴纸,并且将这批写实风格的贴纸免费开源允许商用,引发了观鸟社群的批评。有科普博主指出,AI可能画错鸟类的关键特征,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。


图片来源:小红书

面对批评,开发者多少有些委屈:这些贴纸只是插画,不能代替专业图鉴。他还投入超过10亿Token用于生成和审核,AI又评审了这些AI生成贴纸的准确性。所打的准确分,开发者还保留下来供使用者自行判断。

然而,看似无害的开源插画,一旦进入互联网的内容流通体系,便可能产生超出创作者预期的影响。一万张鸟类贴纸,不仅可能被人们当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误,又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

“双头虾”未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出了一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,利用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。


需要说明的是,AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。

在鸟类贴纸的项目中,开发者将真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

“AI泔水”正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。


更深层的矛盾在于,科普内容追求的是准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念,但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,将其隔离在内容生产领域已近乎不可能,但我们其实尚未真正解决这种不准确带来的内容误导与知识污染。

当错误经过反复传播,还可能变成广为接受的“知识”。

2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了“证据”。

直到2014年,《纽约客》才揭开这个持续多年的错误。

一个凭空编造的名称,在传播中获得了“权威出处”,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生“模型坍塌”:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI究竟应该在多大程度上参与知识生产?

北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。

这一判断,也与国际学术界的讨论相呼应。

2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色,就不能随意发挥。

这也是为什么,科普对AI的使用不能只停留在“有没有标注”上。中国科协2026年发布的《科技工作者科普创作指南》,已经明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。

从“双头虾”到万张鸟贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

澎湃新闻记者陈良贤对本文亦有贡献

澎湃新闻记者 孔家兴 王亚赛

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2-1!姆巴佩飞点,贝林厄姆破门,奇兵拯救穆帅,皇马绝杀逆转豪取9连胜

2-1!姆巴佩飞点,贝林厄姆破门,奇兵拯救穆帅,皇马绝杀逆转豪取9连胜

我的护球最独特
2026-11-22 06:15:39
港姐季军吴文忻去世,终年 51 岁,生前已办追思会,被骗走毕生积蓄

港姐季军吴文忻去世,终年 51 岁,生前已办追思会,被骗走毕生积蓄

不写散文诗
2026-11-21 22:40:06
四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

四川小伙用竹子“手搓”自行车,售价八千元起步,NBA球星都来定制,已卖到19个国家和地区,每年出货几百台

台州交通广播
2026-11-21 10:23:13
日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

环球网资讯
2026-11-21 16:38:05
原来她已去世31年!为情所困从13楼一跃而下,年仅28岁让人惋惜

原来她已去世31年!为情所困从13楼一跃而下,年仅28岁让人惋惜

代军哥哥谈娱乐
2026-11-21 10:35:36
原招行行长谢钟鸣:我优衣库自由,苏州面自由,我就是财富自由

原招行行长谢钟鸣:我优衣库自由,苏州面自由,我就是财富自由

王二哥老搞笑
2026-11-21 03:58:12
1-4主场完败!英超大冷门:11.5亿豪门4轮3负 各项赛事5场1胜仅赢曼联

1-4主场完败!英超大冷门:11.5亿豪门4轮3负 各项赛事5场1胜仅赢曼联

狍子歪解体坛
2026-11-22 00:59:32
问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

问界M9车主高速开辅助驾驶后,倒头就睡……车主称全程智驾开回武汉,该发布账号目前已搜索不到;交警部门正在核查

台州交通广播
2026-11-22 06:39:16
DeepSeek限额,Kimi也崩了!15天内出现17条异常

DeepSeek限额,Kimi也崩了!15天内出现17条异常

智猩猩
2026-11-20 16:32:46
CBA杯-广东爆冷惨负香港金牛出局 徐杰21+8+6全队仅1人上双

CBA杯-广东爆冷惨负香港金牛出局 徐杰21+8+6全队仅1人上双

醉卧浮生
2026-11-21 22:00:16
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

丢人!一女博主自曝在德国15年,交往过大量的外国男人,后续会出专题系列

小徐讲八卦
2026-11-20 06:39:39
豪门悲喜夜:曼城1-1,切尔西1-4,阿森纳2-2,巴黎3-2,皇马2-1

豪门悲喜夜:曼城1-1,切尔西1-4,阿森纳2-2,巴黎3-2,皇马2-1

侧身凌空斩
2026-11-22 06:05:50
加拿大总理说了句震惊世界的话!参加深圳APEC后说:以深圳为师

加拿大总理说了句震惊世界的话!参加深圳APEC后说:以深圳为师

铁锤简科
2026-11-22 01:40:03
露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

露头就打!985高校沈丁立原形毕露!内鬼终于自己蹦出来了

平老师666
2026-11-21 08:49:53
报复攻击克里米亚大桥,荷兰大使馆被炸!特朗普为俄导弹轰炸波兰辩解

报复攻击克里米亚大桥,荷兰大使馆被炸!特朗普为俄导弹轰炸波兰辩解

鹰眼Defence
2026-11-21 18:34:23
爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

爆燃致5人遇难,郑州市调查组:建议不追究车主刑责

极目新闻
2026-11-21 14:32:12
曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

念洲
2026-11-21 22:23:58
杯赛3连冠梦碎!上海爆冷惜败NBL江西 李添荣29分丢绝平三分

杯赛3连冠梦碎!上海爆冷惜败NBL江西 李添荣29分丢绝平三分

醉卧浮生
2026-11-21 21:56:12
参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

大风新闻
2026-11-21 17:03:03
2026-11-22 07:43:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949365文章数 5099006关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
健康
亲子
教育
军事航空

艺术要闻

世界十大著名宫殿盘点:中国独占两席

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

果然祖坟冒青烟也有累的时候!网友:祖坟也得歇歇,不能一直冒烟

教育要闻

面向全球青年学者,年薪40万!

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版