网易首页 > 网易号 > 正文 申请入驻

高通Chris Lattner:以Mojo和MAX构建跨异构硬件的统一AI软件平台

0
分享至

【环球网科技综合报道】每隔几天处理数万亿词元,并将支持范围扩展至来自六家硬件厂商的六种架构,这是Modular统一AI软件平台目前展示出的生产规模和异构硬件覆盖能力。夏威夷当地时间9月23日,在2026骁龙峰会上,高通技术公司先进AI软件与平台执行副总裁Chris Lattner发表主题演讲,系统介绍了这一数据背后的统一AI基础设施。随着高通完成对Modular的收购,Chris Lattner及其团队加入高通。由Mojo、MAX和Modular Cloud构成的Modular平台,形成覆盖从AI内核开发、模型构建与服务到云端规模化部署的统一异构技术栈。


高通技术公司先进AI软件与平台执行副总裁Chris Lattner

作为前Modular的联合创始人兼首席执行官,Chris Lattner在演讲中称,当前行业正面临算力需求快速增长的挑战,众多硬件厂商采用不同技术路径填补算力供给缺口,整个行业投入大量资本构建异构硬件生态系统。“但真正的瓶颈在于软件。每个硬件团队都不得不从基础原理出发,构建自己的软件栈。即使是规模较大的公司,也难以跟上新模型研究持续演进的速度。”他认为,现代AI推理已经演变为大规模分布式系统问题,要保持竞争力就必须在系统的每一层进行优化,而AI开发者需要同时管理和调试多个相近却不同的软件栈。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

这一困境让Chris Lattner联想到当年构建LLVM编译器基础设施时面临的挑战。当时,所有人都在使用已有20年历史的GCC技术,却难以证明实现升级所需投入的合理性。而LLVM通过提供统一的编译器基础设施,让不同硬件厂商共享同一套工具链,最终推动了整个行业的创新加速。“与当时一样,如果能让所有人携手合作,我们就能以全行业之力打破这一局面。”

三层架构构建统一AI技术栈

据悉,Modular平台由三个层级构成,覆盖从底层内核到云端部署的完整链路。Modular平台由三个相互衔接的层级构成:Mojo为AI内核和底层优化代码提供可编程基础;MAX负责生产级模型开发、推理与服务;Modular Cloud则支持AI工作负载在云端规模化部署。每一层都能独立发挥作用,组合在一起则构成从内核到云端的统一异构技术栈。

Mojo是面向AI硬件打造的高性能系统编程语言。Chris Lattner介绍,开发Mojo旨在解决AI开发长期存在的“三语言难题”:研究工作主要使用Python,高性能实现则依赖C++和CUDA,而AI的未来将跨越多种芯片并从云端延伸到边缘。Mojo提供能够在各种芯片和硬件上运行的编程语言,让AI研究人员、基础设施和硬件工程师使用熟悉的类Python语法,编写可移植的底层AI优化代码,同时不牺牲性能。Mojo 1.0已于上个月发布并达到生产就绪状态,完整语言包括标准库、编译器和工具链,已基于Apache 2.0许可全面开源。

在Mojo之上是MAX,这是面向生产级AI工作负载打造的模型开发与服务框架。MAX是一个现代化、面向生成式AI原生设计的框架,目前聚焦推理工作,未来将扩展至训练领域。MAX让AI研究人员和建模优化工程师能够在一个以可移植性为核心设计的统一框架中,构建高性能AI工作流。

最新推出的Modular Cloud则面向企业AI工程师、机器学习运维团队和生产级AI部署人员,让用户无需关心底层采用何种芯片架构,即可规模化部署AI工作负载,同时获得性能优化和总体拥有成本控制。开发者依然可以使用熟悉的API,而底层的资源配置、调度、扩展、优化和硬件选择均由Modular负责。

三层架构的设计逻辑,是减少开发者面向不同硬件平台重复改写和优化代码的工作,在研究、模型服务及规模化部署之间提供更加统一的开发体验,并降低维护多套相互割裂软件栈的复杂度。

平台落地验证 从数据中心ASIC到多架构支持

统一平台的价值需要在生产环境中验证。Chris Lattner分享了一组运行数据:Modular在生产环境中每隔几天就能处理数万亿词元,能够面向多家硬件厂商以及多代处理器平台提供性能优化。近期,Modular平台的支持范围从GPU扩展至专用数据中心ASIC,新增对三种全新架构的支持,使平台支持范围扩大至来自六家不同硬件厂商的六种架构。

在与高通的合作方面,双方正将Modular技术栈引入高通飞龙数据中心加速器产品组合。Chris Lattner表示,适配过程较为顺畅,因为基于高通成熟的NPU软件能力,将其与Modular面向AI和高性能场景的可扩展技术栈结合在一起,即可在高度可扩展的高通NPU平台系统之上实现性能优化。

“我们的使命很简单:充分释放异构计算的潜力。”Chris Lattner表示,未来的AI硬件只会越来越多样化、越来越复杂,关键不只在于硬件本身,更在于赋予开发者自由——让他们能够使用开放技术栈和开放系统,针对自身应用场景选择合适的硬件,同时不牺牲实现优质体验所需的性能。这让每个人都能更自由地构建自己想要打造的产品和服务。

数据中心只是高通业务布局的一部分。高通的产品技术覆盖从毫瓦级到千瓦级乃至更高的计算范围,依托一个高度模块化、可扩展的硬件平台实现这一覆盖。随着Modular加入高通,整套Modular软件平台正被引入高通的所有产品组合,其中也包括骁龙。这意味着,统一AI软件栈的能力将从数据中心延伸至手机、PC、可穿戴设备、汽车等边缘终端。


从云到端 开放生态推动AI创新普惠

软件平台的统一离不开操作系统生态的配合。在演讲中,Chris Lattner宣布与微软深化合作,进一步推进Modular技术栈对Windows平台的支持。微软Windows平台与开发者事业部企业副总裁Logan Iyer登台介绍,双方团队正在合作为Mojo开发Windows原生支持。

Logan Iyer表示,Windows支持广泛而多元的生态系统,让数百万开发者能够灵活选择符合自身需求的工具和框架。将Mojo原生支持引入Windows,正是为了进一步拓展这些选择。借助Mojo,开发者可以使用熟悉的Python语法进行系统级编程,并在Windows上获得性能优化,这种可移植性还能跨越不同平台和厂商,从边缘延伸至云端。

Chris Lattner在演讲中说:“关键不只在于硬件本身,更在于赋予开发者自由。”当行业目光集中在更大的模型参数和更高的芯片算力时,Chris Lattner把关注点放在了另一处:让开发者能够以更统一的方式面向多种硬件架构开发和优化AI工作负载。每隔几天数万亿词元的处理量,表明Modular技术栈已经承载真实的生产级工作负载;而平台向六家硬件厂商、六种架构扩展,则进一步体现其面向异构计算环境的发展方向。(心月)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王安顺:深耕徐州数十载

王安顺:深耕徐州数十载

砚田文化
2026-11-04 11:15:09
大名单公布!张常宁在列,李晨瑄当队长,29岁前国手成主教练

大名单公布!张常宁在列,李晨瑄当队长,29岁前国手成主教练

跑者排球视角
2026-11-03 22:42:42
美国参议院与众议院到底有啥区别?435席对100席、管钱对审人,一文看懂两院权力分工与制衡

美国参议院与众议院到底有啥区别?435席对100席、管钱对审人,一文看懂两院权力分工与制衡

天光破云来
2026-11-04 18:36:00
随着王信伯5-6,丁俊晖6-5,斯诺克国锦赛8强全部诞生:中国5将在列

随着王信伯5-6,丁俊晖6-5,斯诺克国锦赛8强全部诞生:中国5将在列

侧身凌空斩
2026-11-04 00:23:24
手机等降价难!铠侠、海力士、美光等存储大厂明年产能都已售罄 2029年都快抢完了

手机等降价难!铠侠、海力士、美光等存储大厂明年产能都已售罄 2029年都快抢完了

快科技
2026-11-02 12:18:11
又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

又一个电诈大头目浮出水面,这一次,不是大家熟悉的缅北!

苗苗情感说
2026-10-23 07:34:12
抖音副总裁李亮再次回应“字节时间”定性:非常险恶

抖音副总裁李亮再次回应“字节时间”定性:非常险恶

观察者网
2026-11-04 14:09:32
总部停摆、员工追薪,100多家门店陷入危机,又一巨头跌落神坛?

总部停摆、员工追薪,100多家门店陷入危机,又一巨头跌落神坛?

风信子的花
2026-11-04 13:51:06
豆包评出中国最值得去的10个景区,九寨沟第2,漓江第6,西湖垫底

豆包评出中国最值得去的10个景区,九寨沟第2,漓江第6,西湖垫底

赏玩夜忘归
2026-10-20 13:31:19
日本人早已看透:一旦中日真开战,中国根本不是只打眼前这一仗

日本人早已看透:一旦中日真开战,中国根本不是只打眼前这一仗

阿芒娱乐说
2026-10-21 07:59:10
40+,NBA也扛不住啊!CBA这次出息了,伤病太吓人了!……

40+,NBA也扛不住啊!CBA这次出息了,伤病太吓人了!……

体育新角度
2026-11-04 14:52:52
济南市纪委监委通报:卢迪被查

济南市纪委监委通报:卢迪被查

齐鲁壹点
2026-11-04 16:53:16
患者投诉急诊医生不在岗,院方回应:医生出诊床旁超声,已罚扣50元绩效

患者投诉急诊医生不在岗,院方回应:医生出诊床旁超声,已罚扣50元绩效

医脉圈
2026-11-02 11:19:53
韩国总统府召开紧急会议

韩国总统府召开紧急会议

极目新闻
2026-11-03 21:04:38
加工费10元起,杭州首家推出“代烧”服务的社区食堂,大伯一个多月来了四五次:新鲜,还不用刷锅洗碗

加工费10元起,杭州首家推出“代烧”服务的社区食堂,大伯一个多月来了四五次:新鲜,还不用刷锅洗碗

极目新闻
2026-11-04 09:37:51
澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

一念痴狂
2026-10-01 14:01:24
鲁尼:第一个丢球B费必须回防,上半场我真的同情现场球迷

鲁尼:第一个丢球B费必须回防,上半场我真的同情现场球迷

懂球帝
2026-11-04 18:58:25
别想回来!中国不是"捡破烂"的:日本混不下去,也休想回国捞金

别想回来!中国不是"捡破烂"的:日本混不下去,也休想回国捞金

叨叨话影
2026-11-04 19:00:34
开了眼界!汕头富豪“安之伴”老板嫁女,黄金总体有五斤左右,桌面上摆满了现金,粗略估计有几百万

开了眼界!汕头富豪“安之伴”老板嫁女,黄金总体有五斤左右,桌面上摆满了现金,粗略估计有几百万

裕丰娱间说
2026-11-04 18:35:52
WTT冠军赛:女单大爆冷!世界亚军1:3被淘汰,张本智和3:0获胜

WTT冠军赛:女单大爆冷!世界亚军1:3被淘汰,张本智和3:0获胜

国乒二三事
2026-11-04 12:50:22
2026-11-04 19:39:00
环球Tech incentive-icons
环球Tech
环球科技范儿,关注科技圈动态
54657文章数 65213关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

张雪回应"校招年薪10万起被嫌低":不能逼我提到20万

头条要闻

张雪回应"校招年薪10万起被嫌低":不能逼我提到20万

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

民主党大胜!特朗普:愿意接受选举结果

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

房产
游戏
健康
亲子
手机

房产要闻

揭秘开始:三亚顶豪市场,这次真的来了个“不一样”的玩家

超经典《电梯大战》PS5版来了!特工归来 约33元

痘痘长到25岁还没完?查查内分泌

亲子要闻

宝蓝扮演小厨师,用玩具做了很多好看又好玩的美食和爸爸玩过家家

手机要闻

尝鲜需谨慎:曝iPhone Duo升级iOS 27.3测试版微信暂缺“和其他设备同时登录”功能

无障碍浏览 进入关怀版