跳到文章正文
应用 编辑推荐

英伟达 RTX Spark 迷你主机开卖:128GB 统一内存、1 Petaflop,本地能跑 1200 亿参数大模型

想在桌面上本地跑 1200 亿参数的大模型,过去要么上万元级显卡组多卡,要么忍受吞吐折半的消费级…

想在桌面上本地跑 1200 亿参数的大模型,过去要么上万元级显卡组多卡,要么忍受吞吐折半的消费级方案。11 月 18 日,华硕、戴尔、微星同步开卖首批搭载 NVIDIA RTX Spark N1X 的 Windows 迷你主机:最高 128GB 统一内存、FP4 峰值 1 Petaflop,把「小机器跑大模型」从工程演示变成了货架商品。

RTX Spark 迷你主机(图源:ic.work)
RTX Spark 迷你主机(图源:ic.work)

一分钟速览

  • 华硕、戴尔、微星 11 月 18 日首发 RTX Spark N1X 迷你主机,最高 128GB 统一内存 + 2TB SSD。
  • 价格:华硕 ProArt GR1X 64GB 版 4499.99 美元;微星 64GB 版 4399 美元;戴尔 128GB 版挂价 7464 美元(下单状态未确认)。
  • FP4 峰值算力 1 Petaflop,统一内存让 CPU/GPU 共用内存池,原生支持 CUDA 与 WSL。
  • 实测:Qwen 27B 编程 30.0 tokens/s(Ryzen AI Max+ 395 为 23.8);MiniMax 视频生成 5 分 2 秒 vs 13 分 51 秒。
  • 短板同样明确:1440p 光追游戏仅 28 FPS(RTX 5070 Ti 为 62 FPS),高配交付与散热需实测验收。

三家首发,高配还得看交付

首发名单有三家,配置和渠道各不相同。华硕 ProArt GR1X 的 64GB/1TB 版本已有零售渠道,官网也列出了 128GB/2TB 版,但价格和库存未确认;微星 EdgeMesa N AI+ 美国商店曾开放 64GB/1TB 版加购,标价 4399 美元,同系列其他 SKU 报价不一、高配一度缺货。戴尔美国页面预选 128GB 内存和 2TB SSD,配置器能打开,加购环节却出现技术错误,7464 美元的挂价能看到报价不等于能下单——真冲大内存去,首发时最典型的配置恰恰需要单独核实。

128GB 买的是容量,速度得看任务

统一内存让 CPU 和 GPU 共用一池内存,对本地语言模型意味着 GPU 能访问更大的内存池,容纳更大的模型或更长的上下文;但系统和应用也占用这池内存,标称容量不能全算到模型头上。实测的分界线很清晰:Tom’s Guide 用 LM Studio 跑 Qwen 27B 编程任务,华硕 64GB 与 128GB 版速度接近——任务本来就放得下时,多出来的内存很难让它跑更快。

换到吃显存的任务,差距就拉开了:同一台华硕跑 ComfyUI 的 MiniMax 视频生成用时 5 分 2 秒,Ryzen AI Max+ 395 需要 13 分 51 秒;Qwen 27B 编程吞吐 30.0 vs 23.8 tokens/s。NVIDIA 标的 1 Petaflop 是 FP4 峰值,想知道实际省多少时间,得拿同一个工作流量。游戏则是另一回事:《赛博朋克 2077》1440p 光追 Ultra 关 DLSS 下只有 28 FPS,桌面 RTX 5070 Ti 跑 62 FPS——拿它当高价游戏主机,实测撑不起预算。

溢价和散热:采购前的两笔账

同样是 128GB 内存 + 2TB 存储,Ryzen AI Max+ 395 迷你主机有 3999.99 美元报价,戴尔页面是 7464 美元——软件若能在 AMD 平台跑通,价差很难忽略;反过来,现有流程离不开 CUDA,迁移和验证都是工时,RTX Spark 的原生 CUDA 与 WSL 才值这个溢价。常驻运行的代价也要量:StorageReview 在同一项 LLM 服务测试里测到华硕平均 73.4°C、微星平均 85.0°C——同一颗芯片装进不同小盒子,散热就能拉开差距,放在工位旁长期跑之前,该用最重的日常任务连跑一轮,量持续吞吐、听风扇。

趋势洞察

RTX Spark 的真正意义不在参数,而在把「本地推理」的采购决策从组装极客推到了企业 IT 的货架上:128GB 统一内存已够放下此前需要单张 80GB 级显卡的模型,且全部数据不出工位。对受数据合规约束的金融、医疗、政务场景,这笔溢价买的不是算力而是「数据不动模型动」。当三家 PC 大厂同时铺货,本地 AI 小主机很可能复制 NAS 的路径:先在专业 workflow 里立足,再慢慢变成研发中心的标配工位设备。

相关链接

  • NVIDIA RTX Spark:https://www.nvidia.com/en-us/products/rtx-spark/
  • NVIDIA 官方博客:https://blogs.nvidia.com/blog/rtx-spark-desktop-local-ai-available-now/

本文地址:https://www.163264.com/21975