英伟达开源 1200 亿参数 Nemotron 3.5 Super VL：单卡智能体吞吐最高翻 5 倍，74B 版压进 24GB

一分钟速览

• 英伟达发布开放多模态模型 Nemotron 3.5 Super VL，采用 MoE 架构，总参数 1200 亿、激活参数 120 亿。
• 单张 GPU 上执行智能体任务，吞吐量最高可达同规模开放模型的 5 倍。
• 同场推出端侧 Bolt 系列：74B-A9B 24GB（原生 2 位量化），以及 10 月 23 日上线的 E4B 4GB。
• 权重、训练配方、数据集与强化学习环境同步开放，Hugging Face、OpenRouter、ModelScope 均可获取。

不是又一个通用大模型，而是给智能体量身定做

10 月 15 日，英伟达发布开放多模态模型 Nemotron 3.5 Super VL，目标用户非常明确：那些需要长时间运行、连续执行多步骤任务的 AI 智能体。它把推理、指令遵循、工具调用三项“动手能力”，与文本、图像、文档、视频四种理解能力塞进同一个模型里，覆盖代码测试与调试、跨网站信息检索、文档分析、网络安全威胁识别、视频内容检索等场景。开发者可以借助 NeMo 工具链，用自己的数据、工具和业务流程做后训练，把模型行为调成业务需要的样子。

数据说话：推理成本最多砍掉 97.5%

英伟达公布了一批企业落地案例。Scale AI 为媒体娱乐公司 Skydance 定制了供应商信用处理智能体，相关工作负载推理成本预计降低 97.5%、延迟降低 80%；金融运营平台 Ramp 用模型把收据图像转成含商户、日期与支付信息的结构化 JSON，吞吐量最高提升 50%、延迟降低 90%；AI21 与 AI 安全公司 Alice 合作定制威胁情报与漏洞分析模型，相关任务准确率提升 40%。

评测与工程优化

在 CharXiv 图表推理基准上，Super VL 得分 80.8%，明显高于 Nemotron 3 Nano Omni 的 63%，叠加 Python 代码解释后进一步升到 84%。Hermes Bench 与 LangChain 行为评估分别为 63.44% 和 87.05%，高于 Nemotron 3 Ultra 的 56.33% 和 84.3%。为压低推理开销，模型采用投机解码、混合精度与上下文复用：其 LiLiCorr 投机解码方法在 DGX Spark 上可把词元生成速度最高提到 2.3 倍；支持 NVFP4 量化，在 Blackwell 上用 4 位权重加 4 位激活，非 Blackwell 平台则为 4 位权重加 16 位激活。分布式推理方面，16 张 B200、每用户每秒 50 词元的条件下，Dynamo 配合缓存感知路由、会话亲和与 KV 缓存卸载，最多可服务 8 倍用户，首词元延迟降低 85%。

端侧同样没有缺席

除 Super VL 外，英伟达还带来两款 Nemotron 3.5 Bolt 端侧模型：Bolt 74B-A9B 24GB 采用 740 亿总参数、90 亿激活参数的 MoE 架构，靠原生 2 位量化压到 24GB，面向本地智能体任务，支持 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio；Bolt E4B 4GB 面向本地语音助手、交互角色与嵌入式界面，计划 10 月 23 日推出。Super VL 与 Bolt 74B-A9B 已可获取，Bolt E4B 待发布。

趋势洞察

从参数规模到“每秒能服务多少人”，衡量大模型的标尺正在切换。Super VL 的预训练与持续预训练共消耗约 26 万亿词元，后训练约 380 万个样本，并在数十种环境中做强化学习——这套“重后训练、重环境”的配方说明，智能体时代的竞争焦点已从“谁更聪明”转向“谁在真实任务里更稳、更省、更能扛住长流程”。对做 Agent 的团队而言，一个能在单卡上高吞吐跑工具调用的开放模型，意味着落地成本曲线的又一次下移。