网易首页 > 网易号 > 正文 申请入驻

NVIDIA最新1200亿参数模型完成智能体任务比竞争对手快5倍

0
分享至

NVIDIA 新款 Nemotron Bolt 模型将自主智能体带到本地计算机,其中一款变体设计为可装入 24GB 内存。



NVIDIA 发布三款开放 AI 模型,旨在将自主智能体带入更多计算环境。该产品阵容以 Nemotron 3.5 Super VL 为核心,这是一款为复杂任务打造的 1200 亿参数模型。两个较小变体面向希望直接在本地硬件上运行 AI 智能体的用户。

此次发布扩展了 NVIDIA 推动可定制 AI 的努力,使组织能在自有基础设施上运行 AI。它也解决了开发者面临的一个实际挑战:无需将每个请求都发送到云服务,也能运行能力强大的智能体。

Super VL 面向复杂工作流

Nemotron 3.5 Super VL 处理的任务不仅仅是生成文本。它能解读视觉信息,并遵循指令,同时使用外部工具完成多步骤工作流。

NVIDIA 声称,该模型完成任务的速度比同级最接近的竞争对手快 5 倍。公司还表示,尽管其参数规模约为 NVIDIA 最大推理模型的五分之一,其准确率仍接近后者。

这些能力可帮助企业自动化涉及长时间研究或详细文档分析的工作。开发者可以用专有信息进一步训练该模型,以提高其在专业任务上的表现。

认识 NVIDIA Nemotron 3.5 Super VL
我们的新开放模型将推理和工具使用与文本、图像、文档和视频理解相结合,面向长时间运行的 AI 智能体。
总参数 1200 亿,激活 120 亿
pic.twitter.com/BcbED05qSG
— NVIDIA AI (@NVIDIAAI) 2026 年 10 月 15 日

多家组织已开始定制 Super VL。Scale AI 将其适配用于 Skydance 的供应商信用金融智能体。它还参与了一个单独版本的开发,用于 EY 的并购尽职调查智能体。

AfterQuery 为 Hebbia 的信贷协议分析定制了该模型。其他项目聚焦网络安全,AI21 和 Alice 在其中研究抗攻击能力。Mercor 还对该模型进行了后训练,以用于 APEX-SWE 基准测试涵盖的编码任务。

Bolt 将智能体带到设备端

Nemotron 3.5 Bolt 面向内存更有限的硬件。其两个变体提供了不同方法,可在不依赖远程基础设施的情况下运行 AI 智能体。

较大的 Bolt 74B-A9B 使用原生 2 比特量化,以装入 24GB 内存。这种占用空间使兼容系统能够将该模型与其他应用一起运行。

开发者可将其用于本地编码辅助,或将网络研究委托给智能体框架。NVIDIA 称该模型在 PinchBench 上位列同类开放模型第一。它还称其在 BrowseComp 上的开放模型中排名第二。

Bolt E4B 的内存占用小得多,仅为 4GB。NVIDIA 将其设计用于需要在本地设备上快速响应的对话式智能体。潜在应用包括语音助手和互动角色。

该模型还面向在 NVIDIA Jetson 硬件上运行的物理 AI 系统。Bolt E4B 计划于 10 月 23 日推出。较大的 Bolt 模型已经可用。

开放模型提供更多控制

NVIDIA 以开放权重发布 Super VL,并提供配套训练材料。其训练过程覆盖约 26 万亿个 token。后训练涉及约 380 万个样本,随后在数十个环境中进行强化学习。

组织可通过 NVIDIA NeMo 和基于 Python 的流水线来适配该模型。本地部署还使他们能更好地控制敏感信息,具体取决于其基础设施和配置。

Super VL 可通过 Hugging Face、OpenRouter 和 ModelScope 获取。NVIDIA 还通过 NIM 提供该模型,这是其用于部署生产级 AI 服务的平台。Bolt 74B-A9B 已在 Hugging Face 上提供。开发者可以使用 Ollama 或 LM Studio 等工具运行它。

更大的问题是,这些模型在基准测试之外的表现如何。它们的吸引力最终将取决于本地硬件能否在不过度占用内存、不牺牲响应速度的情况下提供可靠结果。

如果朋友们喜欢,敬请关注“知新了了”!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红果新剧榜杀疯了!《持械入宋》跌至第3,第一名9014万登顶榜首

红果新剧榜杀疯了!《持械入宋》跌至第3,第一名9014万登顶榜首

许三岁
2026-10-21 09:15:16
破防了!一位美女妈妈在家长会上出圈,被吐槽“这是孩子的班会,不是选美大赛”,评论区吵翻

破防了!一位美女妈妈在家长会上出圈,被吐槽“这是孩子的班会,不是选美大赛”,评论区吵翻

火山詩话
2026-10-19 08:27:01
蔡天凤被前婆婆曝料:她和前夫带谭方骏赌钱,三人关系混乱没脸说

蔡天凤被前婆婆曝料:她和前夫带谭方骏赌钱,三人关系混乱没脸说

一窥究竟
2026-10-20 18:59:10
实力最强的中国十大医院

实力最强的中国十大医院

北京作家编剧肥猪满圈
2026-10-21 13:45:07
东契奇刊登整版广告!正式向洛杉矶发声:我们开启冲冠之路

东契奇刊登整版广告!正式向洛杉矶发声:我们开启冲冠之路

罗说NBA
2026-10-22 07:09:41
李嘉欣15岁儿子商场吃披萨被偶遇,身高近一米九,网友:当年最丑星二代逆袭了

李嘉欣15岁儿子商场吃披萨被偶遇,身高近一米九,网友:当年最丑星二代逆袭了

手工制作阿歼
2026-10-22 07:23:13
俄罗斯当年割占了中国588万平方公里土地,相当于三分之一的中国版图,可如今再看,这些曾经水草丰美的宝地,大半都成了人迹罕至的荒地

俄罗斯当年割占了中国588万平方公里土地,相当于三分之一的中国版图,可如今再看,这些曾经水草丰美的宝地,大半都成了人迹罕至的荒地

回京历史梦
2026-10-13 09:21:51
伊朗最高领袖会见议会议长卡利巴夫

伊朗最高领袖会见议会议长卡利巴夫

环球网资讯
2026-10-22 00:23:27
“出钱雇你也好,麻烦出席一下”,广东一新娘恳求新郎出席婚礼,不久后两人分手,男方称“配合演戏”,追讨20.8万元及多件金饰,法院判了

“出钱雇你也好,麻烦出席一下”,广东一新娘恳求新郎出席婚礼,不久后两人分手,男方称“配合演戏”,追讨20.8万元及多件金饰,法院判了

南方都市报
2026-10-20 23:15:15
Meta大涨!Q3营收与Q4指引双超预期,上调AI资本开支下限,拟发行无投票权新股|财报见闻

Meta大涨!Q3营收与Q4指引双超预期,上调AI资本开支下限,拟发行无投票权新股|财报见闻

华尔街见闻官方
2026-10-22 05:29:59
为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

为什么大家宁愿在路边等网约车,也不愿意去坐就在路边的出租车?

抽象派大师
2026-10-20 08:10:46
穆里尼奥:国家德比就是国家德比,哪怕今天我们0-5输了也无所谓

穆里尼奥:国家德比就是国家德比,哪怕今天我们0-5输了也无所谓

画夕
2026-10-22 08:25:22
乒乓亚锦赛!张本美和轰11 0,早田希娜剃光头,国乒5女将轰15 2

乒乓亚锦赛!张本美和轰11 0,早田希娜剃光头,国乒5女将轰15 2

远梦归晓r
2026-10-22 03:50:19
物业这5笔钱国家不让收了!多地已退费,你家还在交吗

物业这5笔钱国家不让收了!多地已退费,你家还在交吗

说故事的阿袭
2026-10-22 04:19:21
美国务卿称乌“星链”限速系马斯克所为

美国务卿称乌“星链”限速系马斯克所为

新华社
2026-10-21 19:25:06
袁姗姗淡出娱乐圈,回襄阳过热气腾腾的小城日子

袁姗姗淡出娱乐圈,回襄阳过热气腾腾的小城日子

喜欢历史的阿繁
2026-10-20 19:12:01
又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

泪满过眼
2026-10-10 07:24:15
“小天才手表”热搜第一,被指封闭社交倒逼家长购买,客服:不支持直接添加华为、小米等品牌手表为好友,家长配套APP无法查看好友圈

“小天才手表”热搜第一,被指封闭社交倒逼家长购买,客服:不支持直接添加华为、小米等品牌手表为好友,家长配套APP无法查看好友圈

海峡网
2026-10-20 23:17:09
西方国家为什么很少围堵印度?因为印度真的不好惹!说白了,如果把印度逼急了,他们真的什么事都干的出来!

西方国家为什么很少围堵印度?因为印度真的不好惹!说白了,如果把印度逼急了,他们真的什么事都干的出来!

扶苏聊历史
2026-10-21 18:20:11
皇马4:1大胜莱比锡红牛,皇马球员赛后评分:姆巴佩、居莱尔、巴尔韦德同获 8 分

皇马4:1大胜莱比锡红牛,皇马球员赛后评分:姆巴佩、居莱尔、巴尔韦德同获 8 分

福酱的小时光
2026-10-22 08:02:19
2026-10-22 09:16:49
知新了了
知新了了
专注于新知、科普的传播
6700文章数 2298关注度
往期回顾 全部

科技要闻

云端AI助手扎堆,Claude也来抢活了

头条要闻

牛弹琴:泽连斯基突然接受保留75%领土 释放一个信号

头条要闻

牛弹琴:泽连斯基突然接受保留75%领土 释放一个信号

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

为卖房,有房企花20万拍短剧

汽车要闻

有七座/续航提升 领克900L曝光还可选双色车身+大饼轮毂

态度原创

亲子
房产
艺术
手机
军事航空

亲子要闻

这就是为啥外国人要把孩子放到雪天睡觉的原因

房产要闻

J&P 集团亮相 2026 中国品牌出海博览会| 深耕跨境20载,品牌出海有J&P

艺术要闻

连列宾都称天才的画家!费欣人物油画原版作品,绝到不敢相信

手机要闻

苹果首款折叠iPhone Duo屏下摄像头媒体评价:镜头藏住了,画质没跟上

军事要闻

美原油储备降至44年来最低 美以伊战事或重燃

无障碍浏览 进入关怀版