网易首页 > 网易号 > 正文 申请入驻

老人孩子别碰!AI 一本正经瞎编乱造,信它不如信我是秦始皇

0
分享至

早年遇难题,大家多玩百度知道,后来知乎云集学霸,统一了答疑圈。到 2025-2026 年,AI APP 普及开来,成了手机必装的香饽饽。

就拿字节自研的豆包 AI 来说,这虚拟小美女嘴甜情商高,答疑解惑还顺带哄人,情绪价值拉满,不少人干脆拿它当电子宠物天天唠嗑。

全网都在为 AI 狂欢,但我必须泼一盆冷水:现阶段的 AI 不要给老人孩子用,搞不好遗患无穷。



1、一本正经的瞎编:AI 幻觉重灾区

AI 对外包装得无所不知,内里却藏着 “AI 幻觉” 通病,瞎编、捏造事实、帮倒忙的真实案例一抓一大把。

比如医疗误导:有网友手指断裂咨询豆包,AI 竟建议把断指泡进生理盐水,直接耽误救治,导致断指再无接回的可能。

再如胡诌历史:通义千问 AI 混淆中国朝代,把 “安史之乱” 安到南宋末年,将 “岳飞抗金” 硬说成唐朝故事,小学文化也不忍直视。



外国的和尚会念经?未必。ChatGPT 理财助手玩得一手无中生有,强行编造银行卡转账限额、篡改定期存款计息的逻辑,导致许多用户用它理了个寂寞,还不如纸笔记账靠谱。

2、根本不会算数 + 消失的基础逻辑思维

这大概是最搞笑的智障行为。

你要求豆包输出 50 个五字俗语,它吭哧吭哧凑出 50 条四字成语。当你让她复查这50个结果都是几个字的时候,豆包会秒怂,先诚恳认错,然后重新给你列出50个四字成语,仿佛完全分不清 4 和 5 的区别;

换一个方式,你问讯飞星火英文单词“strawberry 有几个字母 r”,星火联网检索后笃定地回答是2个r,还自作主张地标出字母 r 所在的位置,标注坐标全错。



不止这两款,Kimi、智谱清言也频繁犯低级数字错误,号称顶尖人工智能,基础逻辑全崩,我用百度搜索行不行,我按几下计算器行不行?4+13的简单计算题也能算错成18,费解,实在是让人费解。

3、听不懂人话,完全无视上下文

另一大类离谱事故中,AI 似乎读不透用户需求,只会抓高频词断章取义,完全忽略全文语境,简称 “听不懂人话”。

本月上旬 ZAKER 新闻就曝光过豆包的一次大型乌龙:一位名叫王勃的网友上传电气工程论文,想要配套生成 PPT 用于答辩。聪明的 AI 直接锁死 “唐代诗人王勃”,完全无视专业论文资料,生成了足足 18 页的唐诗赏析幻灯片。

有趣的是,它虽然通篇聊古诗,配图却选用电气工程适配的工科模板,主打一个一半精准、一半跑偏,错大了但又没100%全错。



事后字节复盘给出了官方解释:模型浅层语义联想权重太高,优先匹配流量更高的名人词条 “诗人王勃”,屏蔽了用户上传的本地文档与上下文。简单说就是,只要 AI 识别到热门同名人物,你的私人需求直接靠边站,主打一个 “谁有名先伺候谁”,属实让人无语。

就连看图识图这种简单任务,AI 照样频繁闹笑话。小朋友拍老旧老鼠夹给豆包识别,AI 一眼判定是复古金属卡丁车玩具;下一秒镜头一转,孩子手被夹伤。官方解释是通用视觉模型老旧小众五金素材训练不足,识别时优先匹配外形相似的金属玩具图库,俗称“看走眼了”。



还好它识别的不是什么捕兽夹,不然还得让你盐水泡断指。

4、专业领域大翻车,究竟谁在使唤谁

前面这些顶多算无伤大雅的搞笑 bug,一旦放到专业工作场景,AI 失误足以酿成大祸。

说个轻型事故,有网友写 3000 字毕业论文提纲,中途询问前文提前设定好的实验参数,结果 AI 原地失忆,彻底遗忘前面的全部内容,而是给出一组完全相反的实验数据。可怜用户反复复述前文、多次修正提问,AI 才勉强改对答案。

哈哈,本来下载 AI 是想解放大脑,把繁琐工作丢给小助手减负,结果实操下来,进退两难,大半时间都用来给 AI 排查错误了。到最后,你已经分不清到底是人使唤 AI,还是 AI 反过来奴役人类了。



5、正视 AI 幻觉,别让家人“致幻”

坦白讲,当下所有通用 AI 都不具备完全可靠的能力,最多当作参考辅助,千万不能全盘采信。

其根本原因在于,通用 AI 大模型底层逻辑是「概率文字生成」,它们根本不具备人类真正的理解、推理能力。

只要生成逻辑不变,「无中生有」、「胡编乱造」、「前后矛盾」等低级智障式输出就会永久存在;哪怕技术继续升级,3~5 年内 AI 的滑稽错误也只能大幅减少,但无法彻底根除。

无法消除的 AI 幻觉,会让低认知能力的人 “走火入魔”、错上加错。家里的老人、孩子更容易因为 AI 误导而吃错了药、信错了理。长此以往,后果难料。

哪怕是有文化、心态正常的成年人,也可能被 AI 幻觉愚弄,闹出一堆笑话,甚至造成严重损失。

所以,如果你非要让 AI 给出一个难题的答案,我的建议是,最好能得到多个渠道的交叉验证,在确认事实无误之前,不要轻易相信 AI 的结论。

「信 AI 不如信 “我是秦始皇” 」,真不是一句玩笑话。如果你已经开始教会家人使用AI,趁现在 “紧急刹车” 还来得及。

正视 AI 幻觉,拒绝 AI 致幻。

我是笔点酷玩,希望我的分享可以给各位一些启发和参考,我们下期再会。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

支持率仅剩4.3%!自知提前出局后,郑丽文拟为两岸关系上一道锁

青春染指红颜梦
2026-09-02 17:50:13
秀恩爱!蒋万安扫街时举牌“老婆我爱你”,石舫亘冲上前来个拥抱

秀恩爱!蒋万安扫街时举牌“老婆我爱你”,石舫亘冲上前来个拥抱

金牛传声
2026-11-22 21:58:29
美联储,新消息!特朗普表态

美联储,新消息!特朗普表态

证券时报
2026-11-21 21:48:03
砍26分后他拥抱了詹姆斯的儿子,勒布朗发文:为你骄傲

砍26分后他拥抱了詹姆斯的儿子,勒布朗发文:为你骄傲

晚风知我意21
2026-11-22 19:20:10
3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

3国分5金!国羽大赢家,王祉怡外战告捷,NO.1德比胜出,大马2冠,丹麦名将收退赛礼!

刘姚尧的文字城堡
2026-11-22 20:13:56
百亿豪门夫妇正式开撕,发声明互相指责,两人疑未离婚就有新欢

百亿豪门夫妇正式开撕,发声明互相指责,两人疑未离婚就有新欢

开开森森
2026-11-21 09:48:22
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
心脏与花生的关系,想要保护心脏健康,尽量少碰这3种坚果

心脏与花生的关系,想要保护心脏健康,尽量少碰这3种坚果

医学原创故事会
2026-10-26 23:54:02
“四年本科一场空,依旧进厂当普工”!多名毕业生晒毕业照与车间工装对比,考上大学仍下流水线两班倒做螺丝钉

“四年本科一场空,依旧进厂当普工”!多名毕业生晒毕业照与车间工装对比,考上大学仍下流水线两班倒做螺丝钉

王老师你还好吗
2026-11-22 17:02:19
广州地铁3号线支线2030拆除:番禺乘客该如何应对?

广州地铁3号线支线2030拆除:番禺乘客该如何应对?

糖逗在娱乐
2026-11-22 13:19:44
APEC峰会结束仅1天,没想到深圳三样特产受到追捧,马上全球火出圈

APEC峰会结束仅1天,没想到深圳三样特产受到追捧,马上全球火出圈

麓谷隐士
2026-11-22 12:03:30
日本已经明牌了!他们对中国发起的不仅仅是冲突那么简单

日本已经明牌了!他们对中国发起的不仅仅是冲突那么简单

扶苏聊历史
2026-11-17 15:36:36
黄仁勋倒下后,对他下手最狠的,居然是之前然把他吹上天的那位

黄仁勋倒下后,对他下手最狠的,居然是之前然把他吹上天的那位

麓谷隐士
2026-11-21 07:16:43
美联储,准备投降了?

美联储,准备投降了?

金融界
2026-11-22 18:08:19
性感红丝睡裙,婀娜多姿美少女

性感红丝睡裙,婀娜多姿美少女

疾跑的小蜗牛
2026-11-22 17:16:49
把半辈子踩坑经验打包带回祖国:中国芯片今天能硬气亮剑,真该谢谢这群人!

把半辈子踩坑经验打包带回祖国:中国芯片今天能硬气亮剑,真该谢谢这群人!

军机不可泄漏
2026-11-22 22:23:24
儿子离婚后谈新女友,广州老两口担心儿子恋爱脑上头、财产受损,签协议把百万房产留给孙女:之前给过他一套房,离婚时被分走一半

儿子离婚后谈新女友,广州老两口担心儿子恋爱脑上头、财产受损,签协议把百万房产留给孙女:之前给过他一套房,离婚时被分走一半

极目新闻
2026-11-22 20:26:21
怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

怪不得都说广西人在阴阳怪气说话这一方面天赋异禀呢!笑不活了

石辰搞笑日常
2026-11-22 02:04:16
二战时,日军给女性强行注射“606药剂”,注射完,士兵就露出了邪恶的笑容,“606药剂”究竟是啥?

二战时,日军给女性强行注射“606药剂”,注射完,士兵就露出了邪恶的笑容,“606药剂”究竟是啥?

回京历史梦
2026-11-10 17:49:16
宋朝的“经略相公”到底是多大官?放到今天相当于啥职位?

宋朝的“经略相公”到底是多大官?放到今天相当于啥职位?

爆史君带你读历史
2026-11-21 17:50:51
2026-11-22 23:31:00
笔点酷玩 incentive-icons
笔点酷玩
科技与人文兼顾的三好学生
4387文章数 6271关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
亲子
房产
旅游
数码

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

无障碍浏览 进入关怀版