↑

英伟达开源多模态模型Nemotron 3.5 Super VL,单卡智能体吞吐最高达5倍

PromptTree|阅读 0
2026/10/16 08:48
英伟达Nemotron多模态模型智能体
英伟达发布开放模型Nemotron 3.5 Super VL,总参数1200亿、每Token激活120亿,权重、训练数据与配方一并公开,单GPU智能体任务吞吐最高达同规模开放模型的5倍。

英伟达10月15日发布开放多模态模型Nemotron 3.5 Super VL,与其惯常的「卖铲子」路线不同,这一次英伟达把模型本身也放进了开源阵营:权重、训练数据与训练配方一并公开。

Nemotron是英伟达的自研开源模型家族,此前已覆盖文本推理、指令遵循等方向,定位是「开放权重、开放数据、开放配方」,供企业在此基础上蒸馏训练专用模型。本次的Super VL是家族中的视觉语言版本,面向AI智能体构建场景。

核心规格与表现:

  1. 混合专家架构,总参数量1200亿,每Token激活120亿;
  2. 官方测试显示,单GPU环境运行智能体任务时,吞吐量最高可达同规模开放模型的5倍;
  3. 将推理、指令遵循、工具调用能力与文本、图像、文档理解统一进单一架构,不需要为多模态外挂独立模块;
  4. 同场发布端侧Bolt系列:74B-A9B版本经原生2位量化后压缩至24GB显存内,另一款E4B小模型计划10月23日上线。

「单卡5倍吞吐」需要放在智能体落地语境里理解。当前企业部署AI智能体的最大成本项不是模型训练,而是推理——一个智能体要反复调用工具、处理长上下文,Token消耗是传统对话的数十倍。英伟达作为芯片厂商做模型,最直接的动机就是让模型与其硬件(从数据中心GPU到RTX工作站)深度协同优化,把「每瓦Token数」「每卡吞吐量」做成差异化。

端侧Bolt系列的意图同样清晰:24GB显存跑74B级模型,意味着单张RTX级显卡或工作站即可承载,英伟达由此把「数据中心—工作站—端侧」的智能体栈全部占位。这与本周Meta开放权重模型进Mac Studio的动作形成镜像——巨头们都在抢占「模型就在你身边」的入口。

从竞争格局看,英伟达做开源模型对Mistral、Qwen等开放模型厂商构成新的压力:它不靠模型订阅赚钱,可以长期免费开放,同时用模型优化反向拉动硬件销售。对开发者而言,Nemotron家族「数据加配方全公开」的做法降低了自训练门槛,值得在企业级智能体项目中实测。需要说明的是,5倍吞吐为官方测试口径,实际收益取决于具体负载与硬件配置,建议以自有场景基准测试为准。