网易首页 > 网易号 > 正文 申请入驻

下一代骁龙旗舰:300亿参数模型跑在手机上?

0
分享至

高通在骁龙峰会前连续放了三轮料,CPU、GPU、NPU各一篇。今天,把这三块拼到一起看,会发现这代平台的升级逻辑和以前不太一样了——不是某个模块单独猛堆参数,而是三大引擎围绕AI智能体这个场景重新分工了。

应对内存挑战

根据高通最新放出的NPU相关信息,全新的Hexagon NPU有两个核心创新。第一个是Element Accelerator,专门为Transformer工作负载打造。它结合了向量计算单元和标量计算单元,加速大模型中最关键的运算。要知道现在的大语言模型本质上都是Transformer架构,所以这个新单元理论上可以让这类模型在手机上跑得更快、更省电。



第二个是大容量共享内存扩容50%。大语言模型推理时需要维护一个叫KV-cache的东西,用来保存之前的对话上下文。以前这个缓存经常要往系统内存里倒腾,现在扩容后可以更多地留在NPU内部,减少DDR访问次数,延迟降了,也给其他任务腾出了内存带宽。

高通给出的数据是,INT4模型预填充速度提升50%,首个词元生成时间低于1.5秒。预填充速度决定了AI读懂你的问题和上下文有多快。这样的提升表现,基本就是你刚问完它就开始答了。

值得关注的是,高通正在和内存、模型厂商合作,试图把300亿参数规模的MoE模型搬上手机。要知道现在手机的DDR内存根本装不下300亿参数的模型。高通的解法是——模型存在闪存里,需要哪个就加载哪个。



MoE模型的特点是,虽然总参数有300亿,但每次生成一个词元时,只激活其中被路由选中的约30亿参数。配合闪存到内存的智能加载管理机制,就能以低功耗、低内存占用的方式,获得数百亿参数模型的能力。

这件事的意义在于,端侧AI的天花板被大幅抬高了。以前手机上跑个70亿参数模型就已经很吃力,现在300亿参数级别的体验成为可能。模型越大,推理和规划能力越强,智能体才能真正干复杂的活。

此外,新NPU支持从INT2、INT4、INT8到FP8、FP16的全精度范围,开发者可以根据任务需求在性能、内存、模型质量和功耗之间灵活取舍。

CPU、GPU都是算力的一部分

CPU方面,新平台引入了Oryon FlexCache架构。传统CPU的缓存是每个核心固定分配,大核用大核的,小核用小核的。FlexCache让所有核心共享一个动态缓存池,高负载任务跑在大核上时可以几乎占用整个缓存池,任务在核心间切换时数据也不用重新加载。

因为智能体不是跑一个单一任务,它要频繁地在线程之间迁移,调用运行在不同核心上的工具。如果每次切换都要重新从内存读数据,响应速度就垮了。FlexCache让智能体在跑高负载任务的同时不会降低响应速度。



新一代Adreno GPU也有一个重要的硬件变化,即首次加入Adreno Matrix Cores。Matrix Cores是GPU里专门的AI加速核心。加上它之后,高通平台里NPU、CPU、GPU三个引擎全都具备了Matrix加速能力——AI不再是NPU一个模块的事,而是整个平台的基础能力。



基于Matrix Cores推出的Adreno Neural Fusion,把AI超分辨率和AI帧生成直接做进了GPU图形管线,不用再把数据搬到NPU处理。对游戏来说,这意味着更低的功耗、更少的画面伪影、更稳的帧率。高通内部demo数据显示功耗可降低40%。

放在智能体场景下,GPU也不只是负责画面。当多个模型同时在终端侧运行时,Hexagon NPU和Adreno GPU会共同承担AI推理任务。GPU的Matrix Cores在这里也派上了用场,不是NPU的替补,而是协同算力的一部分。

AI成了芯片底色

把CPU、NPU、GPU放到一起,这代平台的智能体工作流是这样的:传感器中枢(Sensing Hub)始终保持低功耗的环境语音感知,收到下达指令后,Oryon CPU被唤醒,负责理解意图、拆解任务、规划工作流。如果某个步骤需要调用云端API,CPU负责调度路由。如果是端侧就能搞定的推理,CPU决定交给谁。

Hexagon NPU是推理主力,大语言模型、图像理解这些主要靠它。300亿参数MoE模型的支持让它能处理更复杂的规划和推理。Adreno GPU一方面负责渲染画面(比如游戏、视频),另一方面在多模型并发场景下和NPU一起分担AI推理。



整个过程中,FlexCache让CPU调度不卡顿,HPM和NPU共享内存让数据尽量留在芯片内部,减少对DDR的依赖。高通反复提到内存资源是行业挑战,这代平台的几乎每一项创新都在围绕减少内存访问做文章。

不难发现,以前每代升级,大家最关心的是安兔兔跑分涨了多少、CPU多核性能提升百分之几。这代平台虽然也有5GHz、GPU频率提升这些硬参数,但高通花了更多篇幅讲的是——CPU怎么编排任务、NPU怎么跑大模型、GPU怎么参与AI推理、三者怎么协同。

至少从目前披露的信息来看,高通的思路很明确:AI不再是某个功能,而是整个芯片的底层工作方式。9月22日到24日,夏威夷骁龙峰会,新平台会正式发布。到时候具体的性能增幅、实际演示效果,以及首批合作的游戏和应用名单都会揭晓。这代骁龙不是为跑分而生的,它是为智能体而生的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
翁帆终于坦白!杨振宁离世后最后悔的不是没怀孕生子,而是这件事

翁帆终于坦白!杨振宁离世后最后悔的不是没怀孕生子,而是这件事

郭蛹包工头
2026-10-08 11:59:03
壶口瀑布前,游客齐唱祖国赞歌

壶口瀑布前,游客齐唱祖国赞歌

上游新闻
2026-10-04 12:40:06
开拓者123-118击败勇士!杨瀚森创惊喜,这一战看到4个事实

开拓者123-118击败勇士!杨瀚森创惊喜,这一战看到4个事实

篮球大视野
2026-10-08 12:58:05
“牛大妈”走了,93岁一级演员彭玉去世,倪萍海清李勤勤这样怀念她

“牛大妈”走了,93岁一级演员彭玉去世,倪萍海清李勤勤这样怀念她

上观新闻
2026-10-08 17:52:23
俄罗斯出现第二例死亡,伍连德曾在哈尔滨与“肺鼠疫”死磕

俄罗斯出现第二例死亡,伍连德曾在哈尔滨与“肺鼠疫”死磕

吃瓜体
2026-10-07 20:36:47
马科斯真的赢麻了!菲律宾参议院又变天了,副总统弹劾案又生变了

马科斯真的赢麻了!菲律宾参议院又变天了,副总统弹劾案又生变了

有范又有料
2026-10-09 02:34:38
中网四强出来俩,郑钦文心里偷着乐,可下午三点开打让人直皱眉

中网四强出来俩,郑钦文心里偷着乐,可下午三点开打让人直皱眉

罗纳尔说个球
2026-10-08 23:49:17
台海局势升温!两岸舰船对峙中美外长通话,中方严肃表明态度

台海局势升温!两岸舰船对峙中美外长通话,中方严肃表明态度

潋滟晴方DAY
2026-10-07 16:10:58
蔡康永丑陋面目早曝光了!2004年《康熙来了》邀请张学友,他直言不讳说出实话

蔡康永丑陋面目早曝光了!2004年《康熙来了》邀请张学友,他直言不讳说出实话

小徐讲八卦
2026-10-08 13:52:50
老了肌肉流失怎么办?医生:2样东西必须吃,2件事做得越早越好

老了肌肉流失怎么办?医生:2样东西必须吃,2件事做得越早越好

健康科普365
2026-09-30 11:40:19
高金全已任泉州市人大常委会党组成员

高金全已任泉州市人大常委会党组成员

金台资讯
2026-10-08 09:37:17
别看不起小恩小惠,关键时刻可以帮上大忙?网友:小恩养贵人,大恩出仇人

别看不起小恩小惠,关键时刻可以帮上大忙?网友:小恩养贵人,大恩出仇人

带你感受人间冷暖
2026-10-03 00:05:27
不要小看了老美,美国在对华政策上,基本可以说没多大失误,他们没压制住中国的崛起那是因为中国这发展路子太独特了,超出了他们的理解

不要小看了老美,美国在对华政策上,基本可以说没多大失误,他们没压制住中国的崛起那是因为中国这发展路子太独特了,超出了他们的理解

扶苏聊历史
2026-10-07 15:43:46
26岁,太汹涌了,丰满顶流女爱豆

26岁,太汹涌了,丰满顶流女爱豆

技巧君侃球
2026-08-10 23:38:14
2299元!小米新机突然官宣:10月12日,正式开售

2299元!小米新机突然官宣:10月12日,正式开售

科技堡垒
2026-10-06 11:05:21
中国乒协协助王皓林诗栋报案!网友不满:王楚钦被网暴你们为何沉默?

中国乒协协助王皓林诗栋报案!网友不满:王楚钦被网暴你们为何沉默?

念洲
2026-10-08 07:31:49
事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

人生录
2026-09-11 00:05:21
大码模特现实里到底多大?

大码模特现实里到底多大?

飛娱日记
2026-05-12 08:27:55
1-3!国乒世界冠军出局,温瑞博零封,7日赛程:梁靖崑一日双赛!

1-3!国乒世界冠军出局,温瑞博零封,7日赛程:梁靖崑一日双赛!

月亮的麦片
2026-10-09 03:47:27
黎真主党:以色列在黎南部永无立足之日

黎真主党:以色列在黎南部永无立足之日

澎湃新闻
2026-10-08 00:01:01
2026-10-09 05:48:49
机智猫 incentive-icons
机智猫
好产品会让人幸福的
6546文章数 3788关注度
往期回顾 全部

科技要闻

江淮汽车回应"尊界V800刹车踏板支架断裂"

头条要闻

女局长被举报婚内出轨至少9人 大量亲密聊天记录公布

头条要闻

女局长被举报婚内出轨至少9人 大量亲密聊天记录公布

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

演员王晓慧刚担女主,就被曝已婚生子

财经要闻

央行:中国从不搞竞争性货币贬值

汽车要闻

特别版配色/碳纤尾翼 2027款深蓝L06将于10月9日上市

态度原创

健康
游戏
手机
教育
公开课

痘坑留下后,还能填平吗?

《GTA6》震撼外媒:游戏细节直逼现实 太有感觉!

手机要闻

内存涨价压垮利润!三星手机计划Q4减产高达30%

教育要闻

愤怒!学校没布置作业,有家长提议做手抄报博好感,老师一句话让全班家长被迫“加班”

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版