网易首页 > 网易号 > 正文 申请入驻

陶哲轩捅破AI窗户纸:千亿模型就靠两样老数学,高中底子够用

0
分享至

ChatGPT每次回答你一个问题,背后要烧掉的电,够一个普通家庭用上大半天。

可陶哲轩偏说,这玩意儿底层的数学,高中课本里都写过。

不是玩笑。这位菲尔兹奖得主把大模型拆了个底朝天,结论就一句话:核心只有两样东西——微积分,矩阵乘法。

先别急着关页面。你可能觉得数学离你很远,但今天这篇,是让你以后再看到“AI黑箱”“神经网络玄学”这种词时,心里能稳如老狗。

咱们把这事儿聊透。



模型训练,说白了就跟你教小孩认猫认狗一个道理。

第一次它把猫认成了狗,你怎么办?你会说“错了,这是猫”。模型也一样,它算出一个答案后,会跟自己比对——差了多少,错在哪儿。

微积分在这时候登场了。它的作用就一个:算出来每个参数对这次错误“贡献”了多少。

打个比方,你有一千个旋钮,模型答错了题。微积分帮你算出,第三个旋钮往左拧半圈、第七个旋钮往右拧一圈,下次答对的概率最高。这个过程叫梯度下降,名字听着唬人,其实就是下山找最低点——哪儿坡最陡就往哪儿走,走到谷底就停。



那矩阵乘法呢?更直白。

你把模型想象成一个巨大的Excel表格,里面密密麻麻全是数字。你输入一句话,也变成一行数字。两个表格一乘,出来新的数字,再往下一层乘,一层一层叠上去,最后吐出一个答案。

就这么回事。

你说“苹果手机好用吗”,模型先把这句话转成一串数字向量,跟第一层参数矩阵做乘法,得出中间结果,再乘下一层——重复几十上百次,最后输出“苹果手机在系统和生态方面有优势”。



它为什么知道“苹果”既可能是水果又可能是公司?因为矩阵乘法在计算时,会自动把“苹果”这个词跟周围词的关联度算出来。周围是“手机”“iOS”,它就往科技方向靠;周围是“甜”“好吃”,它就往水果方向走。

注意力机制听起来高级,拆开看,也就是两个矩阵相乘,算词跟词之间的关联权重,再加权求和。

到这里你可能会问:就这?那为什么大模型这么难搞?

答案不在数学,在规模。



一个千亿参数的大模型,做一次前向计算,矩阵乘法的次数是天文数字。训练它,要把海量数据反复喂进去,每一步都算梯度、调参数,循环几百万次甚至上亿次。

你拿纸笔也能模拟一个小模型。三层矩阵,手动调参,跑一个玩具版聊天机器人出来,一个周末足够。但要让它在真实场景里好用,参数量、数据量、算力,三个量都得往上堆。堆到一定程度,效果就自然涌现出来了。

这不是数学的胜利,是工程的胜利。

所以那些把AI说得神乎其神的科普,要么是没搞懂,要么是故意让你觉得“你不配懂”。



陶哲轩的意思很明白:底子就这点东西。微积分管优化,矩阵乘法管计算,两样配合,一个负责调方向,一个负责出结果。模型卡住了学不动,是微积分在找原因;模型能说话能写文章,是矩阵乘法在硬算。

你真正该关心的,不是它背后有没有魔法,而是它这么算,什么时候会犯错、为什么会犯错。

看完这些,再有人跟你说“只有博士才能搞懂AI”,你可以告诉他:原理层面,高中底子够用了。复杂的是规模,是数据量,是算力成本——但这些是钱和时间的问题,不是智商的问题。

想上手试试?装个Python,跑几个矩阵乘法,写个简单的梯度下降调参demo,一个下午你就能看到模型从瞎猜变成猜得有点准。

那一刻你大概会跟我一样,觉得所谓的人工智能,其实挺实在的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
32岁香港女演员与73岁丈夫大婚,婚礼盛大300人参加,交往仅三周

32岁香港女演员与73岁丈夫大婚,婚礼盛大300人参加,交往仅三周

观察鉴娱
2026-10-13 10:11:16
央妈“摸排”结果:全国能一次性拿出50万的家庭,数量超乎想象!

央妈“摸排”结果:全国能一次性拿出50万的家庭,数量超乎想象!

平说财经
2026-08-29 07:39:18
伟大的2-1!中国金花武网3连胜到手:抢7赢球,刷新2大纪录!

伟大的2-1!中国金花武网3连胜到手:抢7赢球,刷新2大纪录!

刘姚尧的文字城堡
2026-10-14 18:58:45
太打脸了!所有国产机加起来,都卖不过苹果iPhone18 Pro

太打脸了!所有国产机加起来,都卖不过苹果iPhone18 Pro

互联网.乱侃秀
2026-10-15 10:47:24
不再藏着掖着,珠海航展亮出中国空军王炸装备,美国还坐得住吗?

不再藏着掖着,珠海航展亮出中国空军王炸装备,美国还坐得住吗?

小叨娱乐
2026-10-15 02:13:13
再见 Codex,马斯克杀死了比赛

再见 Codex,马斯克杀死了比赛

Ai学习的老章
2026-10-13 15:35:53
这么下去的话,乌克兰肯定挺不过一个月!因为美国实际上,已经开始暂停了部分情报的分享

这么下去的话,乌克兰肯定挺不过一个月!因为美国实际上,已经开始暂停了部分情报的分享

扶苏聊历史
2026-10-14 15:20:54
意外!成都蓉城还没有跟刘殿座续约,这位门将就成为中超转会市场大鱼

意外!成都蓉城还没有跟刘殿座续约,这位门将就成为中超转会市场大鱼

振刚说足球
2026-10-15 09:12:45
杜聿明晚年回忆:要是听了郭汝瑰的话,我真有可能从淮海战场逃走

杜聿明晚年回忆:要是听了郭汝瑰的话,我真有可能从淮海战场逃走

纪史行者
2026-10-15 03:25:03
宝能集团及姚振华等被执行20.5亿

宝能集团及姚振华等被执行20.5亿

界面新闻
2026-10-14 11:42:04
姚明229公分已经够高?NO!后面的巨兽一个比一个高!

姚明229公分已经够高?NO!后面的巨兽一个比一个高!

岁月有情1314
2026-10-10 15:13:23
任天堂非常不满马斯克扮演瓦力欧:演成变态了

任天堂非常不满马斯克扮演瓦力欧:演成变态了

游民星空
2026-10-13 15:16:12
尴尬?杨瀚森打满末节,开拓者净输15分,媒体人:他未达轮换要求

尴尬?杨瀚森打满末节,开拓者净输15分,媒体人:他未达轮换要求

球场没跑道
2026-10-14 13:25:09
这就是经济下行期的小三吗,时代变得我不认识了

这就是经济下行期的小三吗,时代变得我不认识了

再战五百回合
2026-10-13 09:11:43
日媒:邓亚萍罕见盛赞松岛辉空打法理念先进 日球迷:松岛实力仅发挥七成

日媒:邓亚萍罕见盛赞松岛辉空打法理念先进 日球迷:松岛实力仅发挥七成

晚雾空青
2026-10-14 12:05:07
32岁“阿布扎比王妃”昏倒在伦敦街头,吸食违禁品后不省人事,身旁还有3岁幼童

32岁“阿布扎比王妃”昏倒在伦敦街头,吸食违禁品后不省人事,身旁还有3岁幼童

译言
2026-10-15 07:34:44
胡塞武装:发射地对空导弹,击中沙特一架“台风”战斗机,该战机“随时可能坠毁”,再次发射一枚弹道导弹,“精准、直接”命中沙特机场

胡塞武装:发射地对空导弹,击中沙特一架“台风”战斗机,该战机“随时可能坠毁”,再次发射一枚弹道导弹,“精准、直接”命中沙特机场

政知新媒体
2026-10-15 08:39:45
徐湖平上千件文物流失仅获刑三年:不是法外开恩,而是法条规定的边界

徐湖平上千件文物流失仅获刑三年:不是法外开恩,而是法条规定的边界

十为先生
2026-09-18 18:25:57
开着开着,两个后轮都掉了!奇瑞汽车紧急致歉:召回8878辆车,视情免费更换零部件,国内同批次车型启动排查

开着开着,两个后轮都掉了!奇瑞汽车紧急致歉:召回8878辆车,视情免费更换零部件,国内同批次车型启动排查

都市快报橙柿互动
2026-10-12 20:51:54
不到7万人的江苏小镇,竟有4万人外出炒瓜子!他们年赚15亿?凭啥

不到7万人的江苏小镇,竟有4万人外出炒瓜子!他们年赚15亿?凭啥

云霄纪史观
2026-10-15 01:17:00
2026-10-15 11:47:00
呼呼历史论
呼呼历史论
分享有趣的历史
817文章数 18417关注度
往期回顾 全部

科技要闻

核弹院士彭先觉:可控核聚变 不必再等50年

头条要闻

高市"抱怨"不容易:早上要洗澡化妆 准备早餐收拾餐具

头条要闻

高市"抱怨"不容易:早上要洗澡化妆 准备早餐收拾餐具

体育要闻

五大联赛第二射手,开着11年前的二手车

娱乐要闻

陈小春弟弟被卖,多年不打扰另有隐情

财经要闻

洋餐饮的中国生意:红利消退后的集体交权

汽车要闻

不止大空间/纯电增程任选 小鹏MONA L05来了

态度原创

艺术
家居
健康
教育
军事航空

艺术要闻

天凉了,叶黄了,秋来了……

家居要闻

2026建博会(广州) 公装联探展交流活动

孩子运动莫名晕倒?当心这类疾病

教育要闻

高中课标解读·课程理念③ | 基于课程理念真实性学习的内在机制与实践路径

军事要闻

朝鲜潜射两种导弹

无障碍浏览 进入关怀版