网易首页 > 网易号 > 正文 申请入驻

端侧AI还只是“小时代”,但电脑规格已被模型改写

0
分享至

2026年1月下旬,一个当时还叫Clawdbot、后来以“龙虾”之名为人所知的智能体走红,随即引发了一波Mac mini抢购潮。人们开始为一个随时能干活的AI,单独准备一台电脑。

苹果已经在传播层面刻意转向智能体。新款Mac mini不再只讲办公和创作,也开始强调全天候运行智能体;Mac Studio则继续向需要在本地运行大模型的人出售大内存。小米也在近期展示了AI Cube:三颗玄戒芯片装进一个铝合金方盒,配上80GB统一内存,在本地部署大模型。


更早入场的英伟达,已于2025年10月开始交付DGX Spark。联想、华硕、惠普、戴尔也围绕GB10推出整机。原本卖笔记本、工作站和小型电脑的公司,开始争夺一种新订单:用户希望把一部分AI算力留在自己手里。端侧AI即将迎来大时代?别急,现在还只是“小时代”。

模型正在改写电脑规格

不过是在两年之前,AI PC最典型的配置还只是一块NPU。微软给Copilot+ PC划出的门槛是40 TOPS NPU、16GB内存和256GB存储。厂商拿实时字幕、图像处理等功能介绍本地AI。这套标准可以放进原有的轻薄本,用户仍然按熟悉的方式使用电脑,只是多出几项由专用计算单元承担的功能。

但同时,由苹果的统一内存开始,用户们渐渐开始部署本地模型。2025年3月,苹果已把最高512GB统一内存放进M3 Ultra Mac Studio,并以本地运行数千亿参数模型为卖点。在这个时间,本地部署还只是专业工作者们的选择,因为动辄大几万的Mac Studio,还远没能下落到普通消费者的购买区间。

到了今年,端侧AI的产品继续生长。小米AI Cube原型机配备80GB统一内存,DGX Spark和一批GB10整机是128GB,AMD Ryzen AI Max 300系列最高支持128GB;新款Mac Studio继续提供最高512GB,内存带宽提高到1.2TB/s。

内存是重中之重,这已经不是什么秘密。模型权重、上下文缓存和运行时会迅速吞掉内存。以4比特量化粗算,70B模型仅权重就约需35GB,尚未计入量化元数据、缓存和系统开销。

速度与使用门槛接踵而至

部署完成之后,速度又成了下一道门槛。DGX Spark的128GB统一内存,搭配的是273GB/s带宽。前者关系到能装下多大的模型,后者影响计算时搬运数据的速度。真正生成回答时,模型精度、上下文长度和推理软件还会继续影响结果。增加内存,并不能包办后面的工作。

即使模型已经跑起来,用户也未必用得起来。模型怎样下载和更新,应用怎样调用,读取文件之前需要哪些权限,持续运行出了问题由谁维护,都要有人处理。用户买回去的是一台电脑,这些环节却未必由同一家公司完成。

联想、华硕、惠普可以采用英伟达的GB10平台,完成整机设计、销售和服务;苹果可以同时调整芯片、系统和开发工具。小米则把自己的芯片装进原型机,尝试参与决定一台个人AI设备应当怎样计算。

这几条路线,反映的是各家公司愿意承担多少研发投入,又希望掌握多少产品决定权。采用现成平台的厂商,可以把更多精力放在产品化和交付上;自己设计芯片,则要先承担研发和验证投入,换取对内存架构、计算单元和功耗分配更大的调整空间。后续还要靠足够的产品销量,摊薄持续迭代的成本。

自研芯片因而是一种选择,而非所有参与者的入场条件。同样使用GB10的两台机器,底层能力可能很接近,安装体验、维护服务和客户关系却可以由不同公司掌握。新的电脑订单由此带出了一个更大的问题:用户为本地AI多花的钱,最后会留给提供芯片的公司、提供系统的公司,还是把机器卖给他的公司?

苹果握住整套系统,小米向底层伸手

苹果可以同时改芯片、系统和开发工具,它不需要用户决策新买一台AI PC,就可以让模型部署在本地。统一内存是苹果的杀手锏:苹果的MLX框架让CPU和GPU使用共享内存里的数组,减少在不同计算单元之间搬运数据的需要;MLX-LM则提供模型运行、量化和微调工具。开发者下载第三方开放模型,也可以使用苹果为自己硬件优化的工具来运行。

这条路径主要使用CPU、GPU,并不只靠专用NPU。今年预览的Core AI框架又对统一内存和神经网络引擎进行优化。苹果能够围绕同一套硬件持续补软件,而不是每增加一项AI功能,就重新寻找一套计算平台。

8月的更新进一步拉开了产品梯度。M6 Mac mini 6999元起,内存最高32GB;M5 Pro版本最高64GB。需要更大模型、更重开发任务的人,可以继续向Mac Studio的128GB、512GB配置走。新机已于8月27日接受预购,官方计划9月22日开始发售。

用户本身是有分层的:普通用户需要的是已有应用里多几项好用功能;开发者在意能不能把自己的模型和代码放进去;研究团队、专业创作者才更可能为大内存和持续负载买单。但苹果可以用同一套系统承接不同预算,不必为每一层用户重建销售渠道。

掌握整套平台,也没有让苹果拒绝外部模型合作。6月公布的第三代基础模型与Google合作开发,其中既有3B端侧模型,也有采用稀疏结构、按请求调动部分参数的20B端侧模型。合作改变了模型的来源,系统和产品决策权仍然在苹果手里。哪些模型进入系统服务,开发者通过什么接口调用,应用读取文件之前如何获得许可,仍由它的平台安排。外部模型可以进入Mac,用户不必因此离开Mac。

因此,苹果的商业算盘并不只是在传统的Mac上卖内存。它也在给现有硬件增加使用理由,让开发者把新功能继续做在自己的系统里。模型和框架还在随系统版本、地区与测试进度逐步开放,但已有的产品线和用户关系,让苹果可以分批推进这件事。

小米的芯片分工与米家承接

小米想握住类似的主动权,但明显和苹果走的不是一条路。AI Cube里三颗芯片的分工很能说明问题:O3面向个人智能终端,O100面向端侧AI加速,D100面向智能驾驶。小米把几条芯片研发线放进同一台原型机,展示协同计算能力。按8月发布信息,O3已开启规模量产,O100和D100计划明年商用。AI Cube本身仍是工程原型,没有公布价格和开卖时间。

自研的意义,首先在于小米可以自己组织一颗芯片的设计,并不意味着每个组成部分都从零做起。此前的玄戒O1就使用了Arm的Cortex CPU、Immortalis GPU和CoreLink互连IP。对小米而言,投入芯片设计,是在通用技术的基础上,为自己的产品安排计算能力、内存和功耗,而后还要接受制造、封装与存储供应的约束。

硬件这一侧还在推进,小米已经在米家上寻找它将来可以承接的任务。6月发布的Miloco 2.0,把米家摄像头的音视频、MiMo模型与设备控制接在一起。它以OpenClaw插件的方式运行,尝试识别家人、记住习惯,再调动家里的设备。用户过去要预先设置“发生什么,就打开什么”,现在,小米尝试让AI参与理解和安排这些事情。

不过有个事儿挺有意思:小米自己的安装说明,推荐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
她不是“被摸臀女子”,她是锁喉4岁小孩子的变态

她不是“被摸臀女子”,她是锁喉4岁小孩子的变态

熊太行
2026-09-09 06:19:14
苹果CEO特努斯发布预热视频:提前剧透iPhone 18 Pro Max 可变光圈稳了

苹果CEO特努斯发布预热视频:提前剧透iPhone 18 Pro Max 可变光圈稳了

快科技
2026-09-09 21:59:03
英国宣布制裁,以色列迅速报复

英国宣布制裁,以色列迅速报复

澎湃新闻
2026-09-09 08:49:09
重庆今夜起降雨发展气温下降 中心城区明天最高温将骤降超10℃

重庆今夜起降雨发展气温下降 中心城区明天最高温将骤降超10℃

北青网-北京青年报
2026-09-09 17:49:05
22岁铜梁龙红星赛季报销+退出亚运会!男足剩22人 补招2人无法参赛

22岁铜梁龙红星赛季报销+退出亚运会!男足剩22人 补招2人无法参赛

我爱英超
2026-09-09 19:09:55
34岁郭嘉文罕见露面,和闺蜜一起庆生很惬意!和李泽楷关系成谜!

34岁郭嘉文罕见露面,和闺蜜一起庆生很惬意!和李泽楷关系成谜!

娱乐团长
2026-09-09 15:18:37
你以为你屁股有什么好摸的

你以为你屁股有什么好摸的

格十三
2026-09-09 08:21:18
经营十年的CHINA GT要凉?是不是劳务外包需要讲清楚

经营十年的CHINA GT要凉?是不是劳务外包需要讲清楚

晓看说
2026-09-09 01:08:58
无解的对立!拉夫罗夫悲观表态,认为有生之年,看不到俄西和解了

无解的对立!拉夫罗夫悲观表态,认为有生之年,看不到俄西和解了

沧翎Mist
2026-09-09 15:19:08
9月10日苹果发布会全系列汇总:4款iPhone加3款手表加AirPods5售价和亮点一文说透

9月10日苹果发布会全系列汇总:4款iPhone加3款手表加AirPods5售价和亮点一文说透

叮当当科技
2026-09-07 09:12:17
60岁开始打针,多活七八年?Nature证实:减肥神药司美格鲁肽不仅让你瘦,还能直击衰老根源

60岁开始打针,多活七八年?Nature证实:减肥神药司美格鲁肽不仅让你瘦,还能直击衰老根源

爱医斯坦
2026-09-07 12:00:16
小米:电池发生自燃并报废会补偿一台新车

小米:电池发生自燃并报废会补偿一台新车

台州交通广播
2026-09-07 15:27:47
于文文自曝很难对男生有心动的感觉,调侃自己得了“不心动病”

于文文自曝很难对男生有心动的感觉,调侃自己得了“不心动病”

韩小娱
2026-09-09 08:06:33
告别美颜滤镜!50岁李小冉机场素颜吃面,坦然老去太治愈

告别美颜滤镜!50岁李小冉机场素颜吃面,坦然老去太治愈

乡野异闻录
2026-09-09 16:31:16
胡芳已任上海徐汇区委副书记

胡芳已任上海徐汇区委副书记

澎湃新闻
2026-09-09 21:46:30
律师公开广西朱广成涉黑案中大规模刑讯逼供细节:有人被逼到撞墙自杀,有人在庭审期间死亡

律师公开广西朱广成涉黑案中大规模刑讯逼供细节:有人被逼到撞墙自杀,有人在庭审期间死亡

追月数星
2026-09-08 14:09:40
1978年,冯巩与两位姐姐泛舟湖上,强大的家族基因惹人惊叹

1978年,冯巩与两位姐姐泛舟湖上,强大的家族基因惹人惊叹

娱你同欢
2026-09-09 20:12:45
郭德纲风波尘埃落定!央视新闻通报钧正平定调,郭德纲这回真悬了

郭德纲风波尘埃落定!央视新闻通报钧正平定调,郭德纲这回真悬了

离离言几许
2026-09-09 08:43:01
爸爸点外卖备注“孩子化疗煎饼一半不辣一半微辣”,谁料店主看到后,悄悄往里加了点东西…

爸爸点外卖备注“孩子化疗煎饼一半不辣一半微辣”,谁料店主看到后,悄悄往里加了点东西…

黎兜兜
2026-09-08 22:56:41
“梅姨”被抓前在广州城中村居住数年,以摆摊卖切块芒果为生

“梅姨”被抓前在广州城中村居住数年,以摆摊卖切块芒果为生

新快报新闻
2026-09-09 16:05:04
2026-09-10 00:03:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
276文章数 90关注度
往期回顾 全部

科技要闻

AI重大突破!OpenAI称解开近百年数学难题

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

头条要闻

男子资助女生5年后停止 遭质问"快打过来 不然曝光你"

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

红旗HS7 PHEV申报图曝光 尺寸升级/搭载激光雷达

态度原创

家居
教育
游戏
旅游
时尚

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

教育部最新公布!北京这40名学生上榜——

经典IP重磅回归!《妖怪手表2霸道》登陆Switch2

旅游要闻

从军工遗产到文旅新地标 816工程创建国家5A级景区

和童年顶流做邻居,这事我藏了很多年

无障碍浏览 进入关怀版