网易首页 > 网易号 > 正文 申请入驻

阿里巴巴新模型:可在笔记本电脑运行,性能比肩Opus 4.6

0
分享至


阿里巴巴近日公开发布了其拥有2.4万亿参数的Qwen3.8模型权重。这是一个体量极为庞大的模型,其基准测试成绩使其直接跻身与美国顶级实验室闭源前沿模型同台竞争的行列。然而,同样引人注目的是,上周五,阿里巴巴还在Apache 2.0许可协议下,发布了一个拥有270亿参数的Qwen3.8稠密版本。

这个版本可以在配置较好的MacBook Pro或Mac Studio等设备上本地运行。而且,根据阿里巴巴的基准测试数据,这款模型的性能与Anthropic的Opus 4.6在最高(Max)设置下处于同一水平,这使其更具吸引力。

在相当多的基准测试项目上,该模型甚至超越了Anthropic昔日的旗舰产品——那款于今年二月发布、半年前还代表着业界最高水准的模型。尤其是在计算机操作、代码生成和知识工作类测试中,表现尤为突出。

此外,该模型还具备视觉能力,包括视频理解,这进一步增强了其作为本地部署方案的吸引力——前提是用户拥有足够的硬件支持。

当然,一如既往地,基准测试成绩并不总能反映模型在真实场景中的表现,对于智能体应用场景而言,运行框架本身的质量有时与模型本身同样重要。早期反馈也指出,该模型有过度思考的倾向。

同时值得注意的是,阿里巴巴发布的基准测试数据针对的是原始检查点(checkpoint),而非大多数本地用户实际运行的量化版本。量化处理虽然能让模型在消费级硬件上运行,但不可避免地存在性能损耗。

尽管如此,整体而言,一款可以在本地运行的模型能取得如此成绩,已属相当亮眼。

阿里巴巴指出,该模型在代码生成和知识工作等任务上,相较上一代的Qwen3.7-Plus实现了大幅跃升,部分提升幅度尤为显著——例如在DeepSWE智能体编程基准测试上,得分从14.2分跳升至42.2分。

这一成绩虽仍落后于当前最顶尖的前沿模型(以及最新发布的GLM-5.3等其他开源模型),但即便是谷歌中端产品Gemini 3.6 Flash在该测试中也仅获得49%的成绩,而那款模型根本无法在个人笔记本电脑上本地运行。

阿里巴巴还将该模型与Meta的Muse Glimmer-30B进行了横向比较,后者也是近期发布的体量相近的本地模型。在阿里巴巴公布了两者对比数据的所有测试项目中,Qwen3.8-27B均处于领先地位。

推理速度是另一个需要关注的维度。目前,阿里巴巴尚未发布Qwen3.8 27B的混合专家(MoE)轻量版本。此类模型每个Token激活的参数量更少,运行速度更快。阿里巴巴此前曾为Qwen3.6-35B推出过类似的轻量版本。

未量化的Qwen3.8-27B模型文件本身已有55.6GB,还不包括推理运行时和上下文缓存所需的空间,这并非大多数用户的实际运行方案。

对于Mac用户而言,好消息是社区已经创建了适配Apple Silicon的MLX转换版本。4位量化版本约为16.1GB,8位量化版本约为29.5GB。这意味着,搭载32GB统一内存的Mac设备在适中的上下文长度下,完全可以运行4位量化版本。如果内存达到48GB或64GB,则能够以更高精度处理更长的提示词,效果会更好。

该模型默认支持26.2万Token的上下文长度,通过YaRN方法可进一步扩展,阿里巴巴的云端托管版本已将其扩展至100万Token。不过,这并不意味着本地用户可以在桌面设备上使用完整的上下文窗口,因为随着提示词增长,键值缓存(KV Cache)的内存占用会显著增加。

Q&A

Q1:Qwen3.8-27B模型在本地运行需要什么硬件配置?

A:Qwen3.8-27B未量化版本体积为55.6GB,对大多数用户来说直接运行较为困难。社区已提供面向Apple Silicon的MLX转换版本,其中4位量化版约16.1GB,8位量化版约29.5GB。配备32GB统一内存的Mac在中等上下文长度下可流畅运行4位量化版本,若内存达到48GB或64GB,则能获得更高精度和更长的提示词处理能力。

Q2:Qwen3.8-27B的性能真的能和Anthropic Opus 4.6媲美吗?

A:根据阿里巴巴发布的基准测试数据,Qwen3.8-27B在多项测试中与Anthropic Opus 4.6处于同等水平,在部分编程、计算机操作和知识工作测试中甚至超越后者。但需注意,这些数据基于原始检查点,而非量化版本;且基准测试未必能完全反映真实场景表现。此外,早期用户反馈指出该模型存在过度思考的倾向。

Q3:Qwen3.8-27B支持多长的上下文窗口?

A:Qwen3.8-27B默认支持26.2万Token的上下文长度。通过YaRN方法可将其扩展至100万Token,阿里巴巴的云端托管版本已启用该扩展。但在本地设备上,受内存限制,实际可用的上下文长度会随提示词增长而受到制约,因为键值缓存会持续占用内存资源。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6岁永久失明,全网心疼的郭斌(高考721分,在武汉求学12年),今天大学报到

6岁永久失明,全网心疼的郭斌(高考721分,在武汉求学12年),今天大学报到

极目新闻
2026-09-06 16:54:51
CBA又闹大笑话,超级球队戏耍外援,或投诉到国际篮联,太离谱

CBA又闹大笑话,超级球队戏耍外援,或投诉到国际篮联,太离谱

宗介说体育
2026-09-07 16:05:21
特朗普暗示把新墨西哥州改为“新美国州”,州长讽刺:有美国之前就叫这名,整天浪费时间研究地图

特朗普暗示把新墨西哥州改为“新美国州”,州长讽刺:有美国之前就叫这名,整天浪费时间研究地图

第一财经资讯
2026-09-07 21:04:48
不是36万亿而是230万亿?美专家:美国已经破产,美元成“假钞”

不是36万亿而是230万亿?美专家:美国已经破产,美元成“假钞”

古史青云啊
2026-09-07 09:23:59
杨毅开喷:骂宫鲁鸣的纯属饭圈,还幻想李梦打世界杯?

杨毅开喷:骂宫鲁鸣的纯属饭圈,还幻想李梦打世界杯?

林间小温柔
2026-09-07 20:54:42
刘德华亮相!华为时隔6年再发全新麒麟高性能芯片,余承东激动喊出三个“Super”,新款三折叠售价19999元起

刘德华亮相!华为时隔6年再发全新麒麟高性能芯片,余承东激动喊出三个“Super”,新款三折叠售价19999元起

极目新闻
2026-09-07 16:36:34
果蝇版黑客帝国来了!谷歌十年画出果蝇大脑,硕士生用GPT-6两天让它沙盒起飞

果蝇版黑客帝国来了!谷歌十年画出果蝇大脑,硕士生用GPT-6两天让它沙盒起飞

新智元
2026-09-06 16:03:48
603999,突然涨停!龙头股已6连板

603999,突然涨停!龙头股已6连板

数据宝
2026-09-07 14:14:25
陈妍希素颜照曝光!发量巨多成亮点,网友:还是得勤快

陈妍希素颜照曝光!发量巨多成亮点,网友:还是得勤快

木子爱娱乐大号
2026-09-07 10:23:31
“抱歉,我们不收全职宝妈的孩子”,托管班摊牌了,老师:太对了

“抱歉,我们不收全职宝妈的孩子”,托管班摊牌了,老师:太对了

熙熙说教
2026-09-07 20:39:43
12306终于想通了:与其让1亿人抢票,不如让他们先举手

12306终于想通了:与其让1亿人抢票,不如让他们先举手

笑熬浆糊111
2026-08-10 12:02:09
蒋介石曾说过:若没有西安事变,两个星期内就可以把红军全部消灭

蒋介石曾说过:若没有西安事变,两个星期内就可以把红军全部消灭

香姨谈史
2026-08-28 18:35:27
我供未婚妻读博,她毕业后嫁给了别人,6年后她来我公司面试

我供未婚妻读博,她毕业后嫁给了别人,6年后她来我公司面试

千秋文化
2026-09-05 20:12:08
承认吧,如今很多家庭已经供不起一个大学生本科四年的全部开销了

承认吧,如今很多家庭已经供不起一个大学生本科四年的全部开销了

天天热点见闻
2026-09-07 06:10:14
下面这4种“鱼”纯野生,无法人工养殖,老板:买的都是行家!

下面这4种“鱼”纯野生,无法人工养殖,老板:买的都是行家!

邹小蘑菇
2026-09-07 11:44:40
“葫芦娃爷爷”把7个葫芦摘掉了,来年不会种了:来打卡的人太多,不安全都惊动消防了

“葫芦娃爷爷”把7个葫芦摘掉了,来年不会种了:来打卡的人太多,不安全都惊动消防了

江山挥笔
2026-09-06 16:38:15
两位中超故人,奥斯卡晒与卡纳瓦罗合照

两位中超故人,奥斯卡晒与卡纳瓦罗合照

懂球帝
2026-09-07 07:31:07
9月4日,中国国防部正式宣布:中国人民解放军陆军受邀如约赴俄,准备参与东盟防长扩大会人道主义扫雷专家组主持的实兵演练

9月4日,中国国防部正式宣布:中国人民解放军陆军受邀如约赴俄,准备参与东盟防长扩大会人道主义扫雷专家组主持的实兵演练

扶苏聊历史
2026-09-07 17:42:55
卖萌的御姐:不是反差,是在锋利与柔软之间为己留出的可调节棱角

卖萌的御姐:不是反差,是在锋利与柔软之间为己留出的可调节棱角

疾跑的小蜗牛
2026-09-07 20:32:42
百亿资金灰飞烟灭!把公司108个美女当作后宫,丁宁到底有多狠?

百亿资金灰飞烟灭!把公司108个美女当作后宫,丁宁到底有多狠?

潋滟晴方DAY
2026-09-02 15:24:52
2026-09-07 23:12:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
21581文章数 49729关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

朝鲜新战舰"对阵"美日韩军演 特朗普此前刚向朝鲜示好

头条要闻

朝鲜新战舰"对阵"美日韩军演 特朗普此前刚向朝鲜示好

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

25.99万元起 凯迪拉克全新XT5 PHEV正式上市

态度原创

教育
数码
家居
旅游
军事航空

教育要闻

班主任真的没人愿意当吗?为何有的学校津贴不高,老师还抢着干?

数码要闻

2026北京摄影周佳能CPS会员摄影展开幕:160幅作品展出

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

夜游热带雨林 解锁别样“生物课堂”

军事要闻

媒体:中美战区司令会晤释放的信号 台湾要听懂

无障碍浏览 进入关怀版