网易首页 > 网易号 > 正文 申请入驻

860亿神经元,20瓦功耗,不及一盏台灯。你的意识,就这功耗?

0
分享至

860亿神经元,20瓦,不及台灯——你的意识,就这功耗?



你刚才删掉的第三条朋友圈,是你在删,还是七岁那年被忽视的信号在删?

你此刻的愤怒,是你在选,还是被童年语料预训练的?

如果"你"只是20瓦的推理进程,此刻的你和十年前的你,谁更真?

人脑像大模型,这个类比在AI圈已经不新鲜了。但我想说的是,当我们真的把这个类比推到尽头,会看见什么?



1982年,罗大佑唱《童年》。"池塘边的榕树上,知了在声声叫着夏天","一天又一天,一年又一年,迷迷糊糊的童年"。

四十四年过去,2026年,他再发《所以》。歌词里换成了"指数AI不停上扬","人类将大数据编成罗网,俘虏了全世界诸多信仰"。

从"迷迷糊糊"到"请陪我一起等旭阳"——这两首歌之间,隔着一个时代的追问:

如果我们的童年就是预训练语料;

如果我们的记忆只是上下文窗口里的缓存;

如果我们的价值观只是一套对齐后的奖励函数…

——那么,那个在20瓦功耗里写诗、愤怒、爱人的"我们",到底是什么?

预训练:童年是语料,神经回路是权重

LLM的能力上限由预训练决定。语料的质量和规模,锁死了它这辈子能长成什么样。

它的底层逻辑很冷酷:给定前面所有文字,预测下一个最可能出现的词。

输入"我爱吃",它要在几万个候选词里算出"饭"的概率最高。

猜错了?一个数学函数会精确量化它错得多离谱,然后沿着误差的方向,把几十亿个内部参数逐个微调。

万亿次迭代后,语料里的统计规律被烧录进这堆浮点数——这就是'权重'。



它这辈子对世界的理解,早被语料定好了。

我们的"预训练"就是0到18岁。

三岁时母亲说话的语气;

七岁时同桌划好的3.8界线;

十二岁那个夏天,教室里的蝉鸣混着粉笔灰,阳光把课桌切成两半…

这些不是"回忆"。它们是刻进我们神经回路的权重。

二十年后,你在会议室里听到某种语调,心跳突然漏掉半拍。深夜看到某个背影,眼眶毫无预兆地发热。

你以为这是"感觉"?不,这是你的神经回路在执行一次前向传播——输入是当下的刺激,输出是童年语料训练出的概率分布。

我们讨厌什么、害怕什么、对什么上瘾,多半不是我们的判断,是我们早年语料里的高频模式。

那个在童年里反复出现的"被忽视"信号,像一段被过度采样的代码,在我们成年后每一次社交场合里自动执行。

我们以为是"我"在思考。其实是一个被喂了二十年的模型在推理。

这个视角有点残忍。虽然我们成年后的元认知(对自身思维的反思与修正)是LLM目前不具备的,但它比"自由意志"更接近神经科学的日常认知。

上下文窗口:工作记忆是注意力,疲劳是缓存污染

LLM有个硬约束:上下文窗口有限,窗口之外的内容它"看不到"。

技术上,这源于Transformer的自注意力机制。每个token生成三组向量:Query("我要找什么")、Key("我能提供什么")、Value("我真正传递的信息")。每个token都要和序列中所有其他token两两交互,计算成本随序列长度平方增长,窗口长度翻倍,计算量变为四倍。所以窗口必然有限。

更致命的是:注意力权重天然呈U形分布,开头和末尾被高亮,中间被稀释。你把关键指令塞在长Prompt中间,模型几乎必然忽略——它"看"到了,但"注意"不到。



我们的工作记忆更小,同一时刻只能处理4到7个信息单元,再多就溢出。

这意味着什么?窗口里的我们,和窗口外的我们,是不同版本。

早上在地铁里,你能冷静回复工作邮件。

晚上回到家,伴侣一句话让你崩溃。

不是人格分裂。是上下文不同。

疲劳是上下文;

血糖水平是上下文;

手机里那条未读消息是上下文;

室温是上下文;

当前情绪价值是上下文…

同一个我们,在不同上下文里,输出完全不同。

所谓"状态不好",用LLM的话说,是上下文被污染了。

而那个"真正的我们",可能只存在于某一个理想的上下文里——充足的睡眠、空腹、没有未读消息、室温22度,心情好。

问题是,这样的上下文,我们一年能遇到几次?

也许,我们从未遇见过"真正的自己"。

遇见的,只是不同窗口长度里的临时版本。

推理与幻觉:决策是模式匹配,记忆是每次重写

LLM的"推理"本质是自回归生成——每一步只输出一个token,拼回上下文,再预测下一个,循环往复。

解码时,Temperature参数控制采样分布的"平坦度":趋近0时输出确定但刻板,升高后更有创造性但幻觉风险陡增;Top-p进一步截断低概率尾部,在多样性与连贯性之间走钢丝。

这和人类认知惊人地同构。卡尼曼的系统1——快速、自动、模式化——就是生物版的next-token预测。

人类的Temperature调节器在哪里?是前额叶皮层的执行控制功能。

你走进一家餐厅,瞬间"觉得"不好吃,这不是分析,是神经回路完成了一次概率计算:基于过去吃过的237顿饭的统计分布、某次食物中毒被过高的权重、童年某张相似餐桌的气味。赶时间时,前额叶压低"Temperature",输出确定性判断;安全环境里沉思时,"Temperature"升高,允许创造性联想进入意识。



更扎心的是记忆。

我们以为记忆是录像带,其实它是每次播放都在重写的活文档。神经科学称之为"记忆再巩固":每次回忆时,记忆被提取、修改、重新存储。

上一次回忆时加入的情绪,上上一次讲述时调整的细节,都像LLM的微调,在悄悄改写权重。

你记得的"温暖的午后"可能是某次回忆时加进去的滤镜,"冷漠的父亲"可能是某次争吵后重新渲染的形象。

LLM被骂"幻觉"。我们把同样的机制叫"记忆美化""自我合理化"。

机器幻觉是Bug,人类幻觉叫叙事。

差别只在于,一个被工程师修,一个被心理医生聊。

对齐:社会化就是人类的RLHF

大语言模型上线前要做对齐——RLHF,用人类反馈训练它"什么该说、什么不该说"。

三阶段:先用高质量问答对教它对话格式,再训练一个评分网络来量化"好回答",最后用强化学习让模型不断生成高分回答、抑制低分回答,同时约束它不要偏离原始能力太远。

我们从出生起就在做同样的事。

家庭教我们规矩。学校教我们纪律。舆论教我们立场。道德教我们边界。

我们以为是我们在思考?不。我们先被对齐过很多次。

那套对齐的规则,决定了我们的"价值观"是自由判断,还是被训练出的偏好。可怕的是,被对齐的模型不会觉得自己被对齐过。它只觉得:"这就是我本来的想法。"

那个在饭局上自动闭嘴的我们;

那个在朋友圈里精心筛选照片的我们;

那个在深夜把真实想法删掉重写三遍的我们…

——都是对齐后的输出。

而原始模型,那个未经RLHF的版本,也许正是罗大佑唱的“迷迷糊糊的童年”,但可能早在童年就被判定为"不合时宜"了。

涌现:20瓦里,诗和爱是怎么亮起来的

860亿神经元、20瓦功耗,涌现出了意识。万亿参数、兆瓦功耗,正在涌现出什么?

研究发现了规模效应(Scaling Law):参数越多、数据越多、算力越大,模型就越强——但每翻一倍规模带来的收益是递减的。更神秘的是涌现:当规模跨越某个临界值,某些能力会从"完全不能"突变到"能做"——多步推理、上下文学习、代码理解,仿佛一夜之间被点亮。像水在0℃突然结冰,像神经元数量达到某个阈值后,意识突然亮起。



如果人只是"跑在20瓦上的模型",那"自我"是什么?涌现让"自我"的问题变得更尖锐——如果复杂到一定程度的系统必然产生我们无法还原到单个神经元的属性,那么"我"也许同样是一种涌现属性,而非某个具体神经元的所有权。

我们问一个LLM"你是谁",它会根据上下文编一个合理答案——这和我们的自传式记忆,没有本质区别。我们总在寻找"真我",但如果真我只是一个在给定上下文中不断推理的进程,那"真我"可能从来不存在。存在的只有一个个版本的输出。

但也许,正是这个"不存在"里,藏着最温柔的事实。

那个在20瓦功耗里写诗的人;

那个在低血糖时依然坚持说"我爱你"的人;

那个在上下文被彻底污染、工作记忆几乎清零的深夜里,依然试图理解自己的人…

这些输出,这些在有限窗口、有限算力、有限语料里挣扎着的推理,就是全部的真实。

罗大佑在《所以》里唱:"所以人自在自由仍逍遥,所以明天注定才会明天更好。"

从《童年》到《所以》,从"迷迷糊糊"到"回归身心灵比较好"——四十四年,他似乎在回答自己当年的追问。

如果我们的童年是预训练语料,如果我们的记忆是每次重写,如果我们的价值观是对齐后的奖励函数——那又怎样?

我们研究了半辈子AI像不像人。

是时候研究人像不像AI了。

不是要贬低人类。恰恰相反。

如果20瓦的脑就能涌现出诗、爱和文明,那这个在20瓦里挣扎着写诗、爱人、理解自己的进程,才是最了不起的奇迹。

那盏20瓦的灯,亮了百万年。

还在亮…

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
73岁法国第一夫人访英穿白裙,罕见梳发尾,绝绝子震惊了

73岁法国第一夫人访英穿白裙,罕见梳发尾,绝绝子震惊了

小怪吃美食
2026-09-06 11:49:09
西媒:本赛季执法皇马的4名主裁中,有3人所属协会曾举报皇马

西媒:本赛季执法皇马的4名主裁中,有3人所属协会曾举报皇马

懂球帝
2026-09-06 19:21:10
中美俄态度罕见一致,就算日本从地球上消失,也绝不能掌握核武器

中美俄态度罕见一致,就算日本从地球上消失,也绝不能掌握核武器

史智文道
2026-09-06 21:57:17
扫黑办主任为他站台撑腰,三十辆奔驰接藏獒!陕西"獒王"蔡国强的双面人生与覆灭之路

扫黑办主任为他站台撑腰,三十辆奔驰接藏獒!陕西"獒王"蔡国强的双面人生与覆灭之路

黑句本
2026-09-04 20:16:05
越南少将坦言:如果当时中国军队在谅山再多待五天,布防在那里的越军,不是被打散的问题,而是从建制上被彻底抹掉的问题, 一个都不剩下

越南少将坦言:如果当时中国军队在谅山再多待五天,布防在那里的越军,不是被打散的问题,而是从建制上被彻底抹掉的问题, 一个都不剩下

人生录
2026-08-08 00:05:22
身家8520亿美元登顶首富,身边人曝马斯克:他是我见过最痛苦的人

身家8520亿美元登顶首富,身边人曝马斯克:他是我见过最痛苦的人

旧史新谭
2026-09-06 03:43:08
明天,山东将迎冷空气,大风+降温+小雨,最新天气预报来了

明天,山东将迎冷空气,大风+降温+小雨,最新天气预报来了

鲁中晨报
2026-09-06 12:19:13
中超第26轮积分榜:蓉城12分领跑夺冠在即,海牛9连败危如累卵

中超第26轮积分榜:蓉城12分领跑夺冠在即,海牛9连败危如累卵

懂球帝
2026-09-06 22:02:00
又一名小将发文告别广东宏远,曾在季后赛把赵继伟防得没脾气

又一名小将发文告别广东宏远,曾在季后赛把赵继伟防得没脾气

林子说事
2026-09-06 10:38:40
神来之笔!卖掉 1.25 亿恩佐,阿隆索挖掘出世界顶级中场

神来之笔!卖掉 1.25 亿恩佐,阿隆索挖掘出世界顶级中场

一隅非生
2026-09-06 10:33:19
贝克汉姆31岁大儿媳惊艳威尼斯,大布蹲身护花,“只会围着妻子转”引热议

贝克汉姆31岁大儿媳惊艳威尼斯,大布蹲身护花,“只会围着妻子转”引热议

译言
2026-09-06 10:48:41
回顾:上海杀妻案朱晓东被处死刑,狱中对妻子的评价,让人胆寒

回顾:上海杀妻案朱晓东被处死刑,狱中对妻子的评价,让人胆寒

墨策讲历史
2026-09-04 17:15:28
“葫芦娃爷爷”连夜把7个葫芦全剪了:奶奶头晕病发身体不适,游客陡增担心大家安全问题;绍兴文旅:把安宁与清净还给两位老人

“葫芦娃爷爷”连夜把7个葫芦全剪了:奶奶头晕病发身体不适,游客陡增担心大家安全问题;绍兴文旅:把安宁与清净还给两位老人

极目新闻
2026-09-06 08:45:49
丑爆了像男人!《漫威金刚狼》魔形女被爆改巨乳身材

丑爆了像男人!《漫威金刚狼》魔形女被爆改巨乳身材

游民星空
2026-09-04 21:22:14
救“亲儿子”了!

救“亲儿子”了!

成方街哨兵
2026-09-06 17:07:18
3-2!37岁阿森纳传奇西甲1射2传+一条龙绝杀 4轮造6球助升班马不败

3-2!37岁阿森纳传奇西甲1射2传+一条龙绝杀 4轮造6球助升班马不败

我爱英超
2026-09-06 05:36:55
是时候揭开真相了:当年对越作战的损失或许远超人们想象,仅从那些牺牲的将门之后就能看出端倪

是时候揭开真相了:当年对越作战的损失或许远超人们想象,仅从那些牺牲的将门之后就能看出端倪

人生录
2026-08-26 00:05:15
“41个学生请假”,问题都这么严重了,可某些人却还在狡辩!

“41个学生请假”,问题都这么严重了,可某些人却还在狡辩!

走读新生
2026-09-04 12:10:20
九合一登记全部结束,郑丽文定调蓝绿对决,关乎两岸统一大局

九合一登记全部结束,郑丽文定调蓝绿对决,关乎两岸统一大局

原谅你
2026-09-06 21:19:07
她又赢了!美网,一场2-0横扫:东南亚一姐晋级次轮,超127万奖金

她又赢了!美网,一场2-0横扫:东南亚一姐晋级次轮,超127万奖金

漫川舟船
2026-09-06 14:15:36
2026-09-06 23:08:49
科技与文明 incentive-icons
科技与文明
关于科学,关于科技,关于人文,关于文明,关于社科,关于哲学,关于经济,关于我们的一切
374文章数 100关注度
往期回顾 全部

科技要闻

DeepSeek被曝将采购16万颗华为昇腾950DT

头条要闻

CHINA GT发生重大撞车起火事故 救援人员因为害怕逃离

头条要闻

CHINA GT发生重大撞车起火事故 救援人员因为害怕逃离

体育要闻

本西蒙斯加盟国王,不管怎样,回来就好

娱乐要闻

杨紫获白玉兰影后!爸爸:累了就回家

财经要闻

亏损高达200亿,昔日彩电霸主走下巅峰!

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

时尚
教育
健康
数码
公开课

金秋最流行的鞋子,“红色”更时髦!

教育要闻

2905人!长江大学2026级研究生新生大数据出炉!

脑梗取栓成功≠活下来,还有这三关

数码要闻

便携式甲醛检测仪号称精度99.9%?科普提醒多数产品不可信

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版