小米AI Cube工程版亮相:三芯协同150W功耗,可本地跑1200亿参数大模型

小米在玄戒技术沟通会上展示了一款让人眼前一亮的工程原型——小米AI Cube Prototype迷你主机。这款设备的核心卖点在于三芯协同,实现了超大规模大模型的端侧本地部署。

三颗自研芯片各司其职

AI Cube采用了玄戒O3、玄戒O100和玄戒D100三颗小米自研芯片的异构协同架构:

  • 玄戒O3:作为核心算力来源,采用10核全大核CPU架构及16核G2-Ultra NX GPU,集成200 TOPS低功耗NPU
  • 玄戒O100:通过6nm 3D晶圆级堆叠封装,提供1.22TB/s的近存计算带宽,解决AI推理中的数据传输瓶颈
  • 玄戒D100:原本用于智能驾驶的3nm芯片,拥有20核高性能CPU,内存控制器最高支持160GB显存/内存

这套组合让AI Cube实现了最高120B(1200亿参数)大模型的本地化部署,并支持不同负载下的快慢系统切换。持续性能释放高达150W。

航天级散热设计

为了压住150W的功耗,机身采用航天铝材一体成型,表面布满了33874个CNC精密镂孔。这种高密度开孔不只是为了好看,更是配合内部散热系统确保长时间稳定运行。

尚处工程验证阶段

需要说明的是,这款产品目前仍处于技术验证阶段,小米暂未公布量产计划、售价及具体接口布局。但从技术展示的角度来看,它已经证明了小米在端侧AI算力上的野心和实力。

从手机SoC到AI加速芯片,再到智驾芯片,小米的自研芯片版图正在快速扩张。AI Cube的出现,让我们看到了一个可能的未来:你的桌面上放着一台小巧的主机,就能本地运行千亿参数的大模型,无需依赖云端。

本文地址:https://www.163264.com/15161

(0)
AI日报:万相Wan3.0上线30秒长视频;小米发布三款自研AI芯片;世界人形机器人运动会开幕
上一篇 4小时前
下一篇 4小时前

相关推荐