NVIDIA 新款 Nemotron Bolt 模型将自主智能体带到本地计算机,其中一款变体设计为可装入 24GB 内存。
![]()
NVIDIA 发布三款开放 AI 模型,旨在将自主智能体带入更多计算环境。该产品阵容以 Nemotron 3.5 Super VL 为核心,这是一款为复杂任务打造的 1200 亿参数模型。两个较小变体面向希望直接在本地硬件上运行 AI 智能体的用户。
此次发布扩展了 NVIDIA 推动可定制 AI 的努力,使组织能在自有基础设施上运行 AI。它也解决了开发者面临的一个实际挑战:无需将每个请求都发送到云服务,也能运行能力强大的智能体。
Super VL 面向复杂工作流
Nemotron 3.5 Super VL 处理的任务不仅仅是生成文本。它能解读视觉信息,并遵循指令,同时使用外部工具完成多步骤工作流。
NVIDIA 声称,该模型完成任务的速度比同级最接近的竞争对手快 5 倍。公司还表示,尽管其参数规模约为 NVIDIA 最大推理模型的五分之一,其准确率仍接近后者。
这些能力可帮助企业自动化涉及长时间研究或详细文档分析的工作。开发者可以用专有信息进一步训练该模型,以提高其在专业任务上的表现。
认识 NVIDIA Nemotron 3.5 Super VL
我们的新开放模型将推理和工具使用与文本、图像、文档和视频理解相结合,面向长时间运行的 AI 智能体。
总参数 1200 亿,激活 120 亿
pic.twitter.com/BcbED05qSG
— NVIDIA AI (@NVIDIAAI) 2026 年 10 月 15 日
多家组织已开始定制 Super VL。Scale AI 将其适配用于 Skydance 的供应商信用金融智能体。它还参与了一个单独版本的开发,用于 EY 的并购尽职调查智能体。
AfterQuery 为 Hebbia 的信贷协议分析定制了该模型。其他项目聚焦网络安全,AI21 和 Alice 在其中研究抗攻击能力。Mercor 还对该模型进行了后训练,以用于 APEX-SWE 基准测试涵盖的编码任务。
Bolt 将智能体带到设备端
Nemotron 3.5 Bolt 面向内存更有限的硬件。其两个变体提供了不同方法,可在不依赖远程基础设施的情况下运行 AI 智能体。
较大的 Bolt 74B-A9B 使用原生 2 比特量化,以装入 24GB 内存。这种占用空间使兼容系统能够将该模型与其他应用一起运行。
开发者可将其用于本地编码辅助,或将网络研究委托给智能体框架。NVIDIA 称该模型在 PinchBench 上位列同类开放模型第一。它还称其在 BrowseComp 上的开放模型中排名第二。
Bolt E4B 的内存占用小得多,仅为 4GB。NVIDIA 将其设计用于需要在本地设备上快速响应的对话式智能体。潜在应用包括语音助手和互动角色。
该模型还面向在 NVIDIA Jetson 硬件上运行的物理 AI 系统。Bolt E4B 计划于 10 月 23 日推出。较大的 Bolt 模型已经可用。
开放模型提供更多控制
NVIDIA 以开放权重发布 Super VL,并提供配套训练材料。其训练过程覆盖约 26 万亿个 token。后训练涉及约 380 万个样本,随后在数十个环境中进行强化学习。
组织可通过 NVIDIA NeMo 和基于 Python 的流水线来适配该模型。本地部署还使他们能更好地控制敏感信息,具体取决于其基础设施和配置。
Super VL 可通过 Hugging Face、OpenRouter 和 ModelScope 获取。NVIDIA 还通过 NIM 提供该模型,这是其用于部署生产级 AI 服务的平台。Bolt 74B-A9B 已在 Hugging Face 上提供。开发者可以使用 Ollama 或 LM Studio 等工具运行它。
更大的问题是,这些模型在基准测试之外的表现如何。它们的吸引力最终将取决于本地硬件能否在不过度占用内存、不牺牲响应速度的情况下提供可靠结果。
如果朋友们喜欢,敬请关注“知新了了”!
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.