网易首页 > 网易号 > 正文 申请入驻

从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识

0
分享至

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。


出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双头虾”配图引发争议,出版社回应称正通知下架并召回。知情人士对界面新闻表示,图片原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

一只虾多长了一个头,谁都知道有问题。可如果一只蜂鸟被画出了麻雀般的长腿,又有多少人能看出来?

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的贴纸,并且将这批写实风格的贴纸免费开源允许商用,引发了观鸟社群的批评。有科普博主指出,AI可能画错鸟类的关键特征,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。


图片来源:小红书

面对批评,开发者多少有些委屈:这些贴纸只是插画,不能代替专业图鉴。他还投入超过10亿Token用于生成和审核,AI又评审了这些AI生成贴纸的准确性。所打的准确分,开发者还保留下来供使用者自行判断。

然而,看似无害的开源插画,一旦进入互联网的内容流通体系,便可能产生超出创作者预期的影响。一万张鸟类贴纸,不仅可能被人们当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误,又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

“双头虾”未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出了一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,利用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。


需要说明的是,AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。

在鸟类贴纸的项目中,开发者将真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

“AI泔水”正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。


更深层的矛盾在于,科普内容追求的是准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念,但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,将其隔离在内容生产领域已近乎不可能,但我们其实尚未真正解决这种不准确带来的内容误导与知识污染。

当错误经过反复传播,还可能变成广为接受的“知识”。

2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了“证据”。

直到2014年,《纽约客》才揭开这个持续多年的错误。

一个凭空编造的名称,在传播中获得了“权威出处”,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生“模型坍塌”:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI究竟应该在多大程度上参与知识生产?

北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。

这一判断,也与国际学术界的讨论相呼应。

2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色,就不能随意发挥。

这也是为什么,科普对AI的使用不能只停留在“有没有标注”上。中国科协2026年发布的《科技工作者科普创作指南》,已经明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。

从“双头虾”到万张鸟贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

澎湃新闻记者陈良贤对本文亦有贡献

澎湃新闻记者 孔家兴 王亚赛

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
未来三天冷空气将影响我国中东部地区!广东南部等地或有大雨

未来三天冷空气将影响我国中东部地区!广东南部等地或有大雨

南方都市报
2026-11-21 20:32:05
比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

新京报
2026-11-19 22:46:06
明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

老郭在学习
2026-11-20 16:10:45
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
2026最新!北京大兴机场停车一天一夜收费标准

2026最新!北京大兴机场停车一天一夜收费标准

王二哥老搞笑
2026-11-22 01:51:44
数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

可达鸭面面观
2026-11-21 08:21:38
方博:国乒以前有马龙张继科当学习榜样!现在缺少这样的优秀领军人物

方博:国乒以前有马龙张继科当学习榜样!现在缺少这样的优秀领军人物

念洲
2026-11-22 06:54:13
北京房山丰台三名干部被查,均涉严重违纪违法

北京房山丰台三名干部被查,均涉严重违纪违法

碳基打工人
2026-11-22 01:02:07
孔蒂:我刚执教国米时一片混乱,如今这里成了瑰宝

孔蒂:我刚执教国米时一片混乱,如今这里成了瑰宝

懂球帝
2026-11-22 07:20:16
深圳这场晚宴火了!上菜人员气质出众,看着不像普通服务员

深圳这场晚宴火了!上菜人员气质出众,看着不像普通服务员

马蹄烫嘴说美食
2026-11-21 03:56:01
每体:库巴西至今仍和姐姐住公寓,未急于购豪车

每体:库巴西至今仍和姐姐住公寓,未急于购豪车

懂球帝
2026-11-21 19:27:50
两代台湾媒体人来到深圳,一位感动不已,另一位开始替台北着急

两代台湾媒体人来到深圳,一位感动不已,另一位开始替台北着急

芳芳历史烩
2026-11-21 10:24:39
下周一开盘会不会大跌甚至暴跌?我直接说答案,股民开盘前听我一言

下周一开盘会不会大跌甚至暴跌?我直接说答案,股民开盘前听我一言

风风顺
2026-11-22 02:50:04
遭母亲责骂、嫁中国人九年?李在明抵达深圳,却意外带火秋瓷炫

遭母亲责骂、嫁中国人九年?李在明抵达深圳,却意外带火秋瓷炫

聚焦事件
2026-11-20 21:45:52
马天宇临时直播被留言刷屏,开播不到5分钟遭紧急叫停!回怼工作人员:“我干什么跟你们有什么关系啊?真的有点越界”

马天宇临时直播被留言刷屏,开播不到5分钟遭紧急叫停!回怼工作人员:“我干什么跟你们有什么关系啊?真的有点越界”

天津人
2026-11-21 10:29:50
詹妮弗·劳伦斯谈霉霉与卡莉复合:老了就不吵了

詹妮弗·劳伦斯谈霉霉与卡莉复合:老了就不吵了

影视情报室
2026-11-22 01:41:55
CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

体育大学僧
2026-11-21 09:26:00
国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

国家税务总局规定:2026年11月1日起全国加油站全面推行,以后去加油站加油,加完油系统自动给你开电子发票

扶苏聊历史
2026-10-09 10:45:34
伊朗称击中一架F-16战机

伊朗称击中一架F-16战机

新华社
2026-11-21 21:32:26
天津老甲A队:因年龄要求不符,退出2026传承足球明星联赛

天津老甲A队:因年龄要求不符,退出2026传承足球明星联赛

懂球帝
2026-11-21 21:35:14
2026-11-22 07:47:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949365文章数 5099006关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
数码
本地
亲子
公开课

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版