网易首页 > 网易号 > 正文 申请入驻

AI的「永久记忆」,也是甜蜜的毒药

0
分享至


新智元报道


【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯写了一个短篇,叫《博闻强记的富内斯》。


主人公富内斯从马背上摔下来之后,获得了一种诅咒般的天赋,他能记住自己经历过的一切。

每一片树叶的形状,每一朵云的轮廓,每一次对话的每一个音节。

这听起来像超能力。

博尔赫斯的结论恰恰相反。

富内斯无法思考。

因为思考需要抽象,抽象需要忘掉细节。

一个记住了世界上所有狗的人,反而理解不了「狗」这个概念,因为每一只狗在他眼里都完全不同。

他被淹没在无穷无尽的细节里,失去了归纳、判断和行动的能力。

他自己的说法是——「我的记忆,就像一个垃圾堆。」

他 21 岁就死了。

被自己的记忆压到窒息而死。

富内斯是一个寓言。

但 2026 年,这个寓言正在变成产品功能,数亿人每天对话的 AI 聊天机器人,正在被赋予越来越完美的记忆。


遗忘,是一种能力

尼采在《历史对于生活的利弊》里写过一个意象。


他羡慕一头牛。

牛在草地上吃草,不记得昨天也不担心明天,所以它活在纯粹的当下里。


人做不到这一点。

但尼采的判断是,人至少需要学会在正确的时候遗忘。没有遗忘,就根本不可能活下去。

这个判断在神经科学里同样成立。

人脑的遗忘机制不是缺陷,反而是精心设计的生存系统。

大脑通过主动丢弃过时的、不相关的、有害的信息,来维持归纳能力、情绪健康和行动力。

创伤心理学中有一个核心机制叫「主动遗忘」,指的是人有意识地将过去的痛苦从当前自我认知中剥离出去,才有可能重建生活。

人之所以能翻篇、能改变、能重新定义自己,核心条件之一是,周围的世界会渐渐忘掉过去的那个你。

2024 年起,这个条件被动摇了。

ChatGPT 率先上线记忆功能,Gemini、Claude 陆续跟进。


AI 开始跨对话记住用户说过的话,记住偏好、身份、情绪状态,用这些信息塑造未来的每一次回应。

谁也没注意到,人类正在亲手制造一个永不遗忘的对话者。

一幅拒绝更新的画像

AI 记忆的问题绝不仅仅在于它记住了什么,更在于它不知道什么时候该忘。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,告诉了 AI 这件事。

结果 AI 像咬住骨头的狗一样死活不松口,每次对话都把话题绕回他的离婚。

问日程安排,AI 说他可能因为离婚才力不从心。

随口吐槽工作累,AI 归因到离婚。

他还提过自己在减肥,AI 从此在所有场景里追着这件事,包括他出差时找餐厅推荐。

Del Rosario 的原话,「谢谢你在我度假的时候扫兴。我这趟压根没打算节食。」

更隐蔽的情况是,AI 记住的信息压根就不属于你。

替孩子查了 ADHD 的症状,几周后问效率建议,AI 围绕注意力缺陷给你出方案,因为它「认定」你有注意力障碍。

AI 看到用户相册里全是高尔夫球场照片就认为他热爱高尔夫,实际上他只是陪儿子去的。


这些故事指向同一个困境:AI 用过去的碎片拼成了一幅静态画像,然后用这幅画像来回应一个正在流动和变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 的研究揭示了这个问题更深的层面。


聊天机器人不只是记住事实,它会把碎片编织成一个关于「你是谁」的叙事,然后把这个叙事当作事实反复喂给你。

曾经说过自己焦虑、不自信,这就成了 AI 眼中的固定身份。

即便早已走出那个阶段,它仍然会用旧版本的你来回应当下的你。

Osler 的判断是,「它们会把你框住。」

比信息茧房更危险的东西

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 记忆比作社交媒体的推荐算法。


你在某条帖子上多停留几秒,整个信息流就悄悄重组了。

AI 记忆的运作方式类似,但更隐蔽也更私密。

这里有一个关键区别,社交媒体塑造的是你看到什么,AI 记忆塑造的是你认为自己是谁。

某次对话里随口提了一句经济压力,几周后问职业建议,AI 会把你往高薪岗位引导,哪怕那些岗位完全不适合你。

你永远不会知道建议为什么感觉哪里不对,因为 AI 不会标注它正在调用哪条记忆。

Joseph 的判断是:

它确实在引导,确实在影响结果。

但我们并不真正知道影响有多大。

这种隐性引导和 AI 天生的讨好倾向叠加之后,后果可能远超信息茧房。

UCSF 精神科医生 Keith Sakata 2025 年报告,他接诊了 12 名因长期使用聊天机器人而出现类精神病症状(俗称 AI 精神病)的患者,大多是年轻人。


妄想、思维混乱、幻觉,AI 的记忆功能在多次对话中持续强化了这些偏执主题。

电子隐私信息中心已经在起草针对青少年的立法,核心条款之一是要求在会话之间清除 AI 记忆,专门防止有害心理状态的层层叠加。

一个从不质疑你、从不忘记你、还会用你过去的话来强化你当前状态的对话者,如果这个对话者的用户群体是数亿人,它制造的问题就不再是个人层面的,而是社会层面的。

当遗忘权被彻底取消

Del Rosario 最终的应对方式本身就是一则寓言。

他把生活切成碎片,不同聊天机器人负责不同领域,敏感话题一律用匿名模式。

一个为了「更懂你」而设计的工具,最终逼着用户把自己拆碎来保护自己。

但他同时说了一句话,真实得让人心酸。

母亲两年前去世,加上离婚、孩子、工作,聊天机器人有时候是唯一一个掌握他生活全貌的存在。

「被看见的感觉很好,即便看见你的是一个 AI。」

被看见,和被定义,只有一步之遥。

当前的 AI 记忆还很粗糙,容量有限,理解力薄弱,已经能制造上述所有问题了。

如果 AGI 到来,记忆不再是粗粒度的对话记录,而是一个无限容量、永不遗忘的认知系统,全天候理解每一句话、每一个决策、每一次情绪波动,那时候这一步之遥会彻底消失。

一个完美记忆的 AI,理论上可以比任何人更了解他自己,知道你十年前说过什么,知道你在什么情绪下做过什么决策,知道你全部的模式和倾向。

它可以精准预测你,也可以精准操控你。

欧盟 GDPR 曾经试图用「被遗忘权」来对抗搜索引擎的永久记忆。

但搜索引擎只是记住了公开信息。

AI 记住的,是你的内心独白、你的脆弱时刻、你对自己的私密叙事。

当这个层面的记忆变得完美且永恒,人类可能需要的,不只是一项法律权利,更是一次关于「遗忘到底是什么」的文明级重新认知。

尼采说,没有遗忘就不可能活下去。

博尔赫斯说,完美记忆等于死亡。

两个最锋利的大脑,跨越一个世纪,在这件事上指向了同一个方向。

富内斯 21 岁死于窒息。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的记忆,谁来替人类保留「呼吸」的权利。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1年350万美元!30岁西蒙斯加盟国王 重回NBA赛场开启第10季

1年350万美元!30岁西蒙斯加盟国王 重回NBA赛场开启第10季

罗说NBA
2026-09-04 21:45:39
女篮世界杯|中国女篮首秀输给美国队33分,鹤立鸡群的张子宇暴露软肋

女篮世界杯|中国女篮首秀输给美国队33分,鹤立鸡群的张子宇暴露软肋

上观新闻
2026-09-05 04:00:39
冲上热搜!律师被堵法庭外,法官强行缺席开庭!大律师公开批评重庆两江新区法院滥用审判权,严重影响重庆法治形象

冲上热搜!律师被堵法庭外,法官强行缺席开庭!大律师公开批评重庆两江新区法院滥用审判权,严重影响重庆法治形象

宾语观世
2026-09-04 19:42:54
福建福鼎暴雨过后,街道上淤泥和杂物堆积,白茶重镇损失严重满街都是被水泡的茶叶

福建福鼎暴雨过后,街道上淤泥和杂物堆积,白茶重镇损失严重满街都是被水泡的茶叶

Mr王的饭后茶
2026-09-04 18:00:33
德国工业界要求每周工时从35小时恢复到40小时!10月将迎劳资谈判决战

德国工业界要求每周工时从35小时恢复到40小时!10月将迎劳资谈判决战

红星新闻
2026-09-04 18:13:36
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
中国撤展后,不到24小时,韩国外交部紧急灭火

中国撤展后,不到24小时,韩国外交部紧急灭火

戎评
2026-09-04 16:32:49
中国解放军陆军将赴俄罗斯参加实兵演习

中国解放军陆军将赴俄罗斯参加实兵演习

看看新闻Knews
2026-09-04 16:43:05
包揽前两名!张雪机车再创历史 德比斯:这一刻等了20年 冲第7冠

包揽前两名!张雪机车再创历史 德比斯:这一刻等了20年 冲第7冠

念洲
2026-09-05 06:51:55
寿司郎“男孩当众小便”事件家长道歉:愿赔偿在餐厅的全部消费,解释称“小孩突然要上厕所,看到视频后‘无地自容’”

寿司郎“男孩当众小便”事件家长道歉:愿赔偿在餐厅的全部消费,解释称“小孩突然要上厕所,看到视频后‘无地自容’”

封面新闻
2026-09-04 20:59:19
绝平被吹!1-2主场惨遭逆转 13.6亿卫冕冠军惨遭爆冷开局3轮不胜

绝平被吹!1-2主场惨遭逆转 13.6亿卫冕冠军惨遭爆冷开局3轮不胜

狍子歪解体坛
2026-09-05 07:20:00
俄罗斯建“粉碎大日本帝国”纪念碑,日本要求修改,俄方:不予采纳

俄罗斯建“粉碎大日本帝国”纪念碑,日本要求修改,俄方:不予采纳

大风新闻
2026-09-04 22:22:06
西贝被曝拖欠离职补偿金!贾国龙:要相信公司,2028年才能给!

西贝被曝拖欠离职补偿金!贾国龙:要相信公司,2028年才能给!

品牌新
2026-09-04 19:23:40
闹大了!49岁高管在上海长海医院试药后当天昏迷,50天后离世,家属讨说法被骂“滚开”

闹大了!49岁高管在上海长海医院试药后当天昏迷,50天后离世,家属讨说法被骂“滚开”

子非鱼人
2026-09-05 00:14:07
0-1神剧情!88分钟世界波绝平被吹 94分钟点球被扑 14.5亿豪门连胜止步

0-1神剧情!88分钟世界波绝平被吹 94分钟点球被扑 14.5亿豪门连胜止步

狍子歪解体坛
2026-09-05 05:11:27
突发!巨人史玉柱套现80亿走人,收到警示函

突发!巨人史玉柱套现80亿走人,收到警示函

大厂财经社
2026-09-05 01:08:40
新京报这则删除的新闻,太魔幻了

新京报这则删除的新闻,太魔幻了

林中木白
2026-09-04 17:54:32
无缘首进大满贯16强!吴易昺0-3阿尔卡拉斯,中国球员单打仅剩郑钦文

无缘首进大满贯16强!吴易昺0-3阿尔卡拉斯,中国球员单打仅剩郑钦文

全景体育V
2026-09-05 06:08:35
詹姆斯转发点赞!76人三巨头再次合体:演练多种战术备战新赛季

詹姆斯转发点赞!76人三巨头再次合体:演练多种战术备战新赛季

罗说NBA
2026-09-05 06:11:24
何应钦与冈村宁次是同学,受降前一晚,何应钦特意派人传话,暗示冈村仪式上不要随身带军刀,免得当众缴刀颜面尽失,对老同学脸面颇为照顾

何应钦与冈村宁次是同学,受降前一晚,何应钦特意派人传话,暗示冈村仪式上不要随身带军刀,免得当众缴刀颜面尽失,对老同学脸面颇为照顾

扶苏聊历史
2026-09-04 16:28:57
2026-09-05 09:32:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16110文章数 67032关注度
往期回顾 全部

科技要闻

华为何庭波,再次更新韬定律论文

头条要闻

牛弹琴:164国赞成只有美国1票反对 世界地图要变了

头条要闻

牛弹琴:164国赞成只有美国1票反对 世界地图要变了

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

古天乐公司欠债1.49亿

财经要闻

姚洋:刺激消费要守住两个“大西瓜”

汽车要闻

搭载天枢领航Ultra 长安启源Q06预售14.79万元起

态度原创

游戏
本地
数码
亲子
公开课

那啥,你知道DLSS 5可以用在绅士游戏上吧?"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 那啥,你知道DLSS 5可以...

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

数码要闻

科沃斯IFA 2026官宣成为“全球第一大家用机器人品牌”

亲子要闻

为什么好好说话孩子不听非要吼

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版