跳到文章正文
开源项目 编辑推荐

英伟达开源 1200 亿参数 Nemotron 3.5:企业智能体和 AI PC 都要“常驻”一个模型

英伟达不只卖 GPU 了。它刚刚开源了一组新模型,一头指向企业里 7×24 小时运行的智能体,另…

英伟达不只卖 GPU 了。它刚刚开源了一组新模型,一头指向企业里 7×24 小时运行的智能体,另一头指向你桌上那台 AI PC。

一分钟速览

  • 英伟达发布 Nemotron 3.5 Super VL,1200 亿参数,面向企业智能体
  • 官方称其在指令遵循与工具调用上的准确率接近更大的 Nemotron 3 Ultra
  • 同时推出两款轻量 Bolt 模型,面向 RTX Spark AI PC 与 DGX Spark 工作站
  • 目标场景是“常驻智能体”和边缘计算,而非一次性问答
  • 模型以开放权重形式发布,可直接下载部署

为什么企业需要一个“常驻”模型

聊天机器人是“叫一次、答一次”,智能体不是。它要盯着邮箱、盯着工单、盯着库存,随时判断要不要行动。这种用法对模型的要求完全不同:延迟要低、工具调用要稳、长会话里不能忘事,还要能在企业自己的环境里跑,数据不出门。

Nemotron 3.5 Super VL 的定位就在这里。1200 亿参数比 Ultra 小,但英伟达称它在指令遵循和工具使用上的准确率与 Ultra 接近。这是一个典型的工程取舍:用更小的模型换取更低的推理成本和更高的并发,让企业可以把智能体铺到更多业务流程里,而不是只供少数人试用。

端侧那两款 Bolt 才是伏笔

两款 Bolt 模型瞄准的是 RTX Spark 笔记本和 DGX Spark 工作站。它们要在本地完成两件事:一是断网也能用的个人助理,二是把敏感数据留在设备上的企业应用。英伟达给出的场景是“always-on agent”——开机就在,随时响应,不需要每次都把请求发到云端。

这和微软、苹果的方向撞在了一起。微软在推本地智能体安全模块,苹果把 AI 塞进系统和家居设备,英伟达则从芯片和模型两头下手。端侧 AI 的竞争,正在从“能不能跑”变成“跑得够不够省电、够不够安静”。

开源是手段,不是目的

开放权重对英伟达有明确好处:模型越多人用,越多人需要能跑得动的硬件。这与 Meta 开源 Llama 的逻辑类似——用模型扩大生态,再把生态导向自家芯片。区别在于,英伟达同时掌握训练芯片和推理芯片,模型开源对它是“软硬一体”的延伸。

对开发者来说,这意味着多了一个可商用的选择。Nemotron 系列支持视觉输入、工具调用和较长上下文,适合做文档理解、工单处理和本地知识库问答。真正的成本不在下载模型,而在微调、评测和部署——这部分工作不会因为开源而消失。

趋势:模型正在“下沉”

过去两年,模型竞赛集中在云端最大最强的那个点;现在开始分叉:一端是万亿参数的旗舰,另一端是能在笔记本上常驻的小模型。中间层——1000 亿参数左右、可私有化部署、工具调用稳定的模型——会变成企业采购的主力。

英伟达这次补的正是中间层和端侧。它不一定会成为最强的模型厂商,但它可能是最希望“每个设备都跑一个模型”的公司。毕竟,模型跑在哪里,芯片就卖到哪里。

参考链接:NVIDIA on Hugging Face

本文地址:https://www.163264.com/17478