小米玄戒O100详解:行业首颗6nm 3D堆叠AI芯片,带宽1.22TB/s

小米玄戒O100是这次技术沟通会上最受关注的产品之一。作为小米首颗专为端侧大模型设计的AI加速芯片,它用一项行业首创的技术解决了端侧AI的内存墙难题。

6nm 3D晶圆级堆叠:行业首创

玄戒O100采用了Wafer on Wafer(WoW)晶圆级垂直堆叠封装工艺,这是行业首款采用该技术的AI芯片。通过Hybrid Bonding混合键合技术,实现了1.4微米的超小键合间距。

具体结构上是6nm Logic Die与2层DRAM Die的3D堆叠,数据连线从传统POP封装的96路扩展至28672路,实现了近300倍的数据通路提升。TSV(硅通孔)直径缩小至0.7微米。

性能数据:带宽是旗舰手机的16倍

  • 内存带宽:1.22TB/s,达到传统旗舰手机的16倍
  • 端侧推理速度:最高330 Tokens/s(运行MiMo-3B模型)
  • 散热:集成玄武高带宽矩阵总线,风冷主动散热可实现10瓦级解热

为什么需要这么高的带宽?

随着端侧大模型部署需求爆发,传统SoC的I/O带宽已难以承载日益增长的AI推理负载。大模型推理过程中需要频繁地在内存和计算单元之间搬运数据,带宽不足直接导致推理卡顿。

玄戒O100通过Face-to-Face金属层直连架构,大幅缩短了DRAM与底层计算逻辑的物理距离,从根本上解决了这个瓶颈。

已申请15项专利

据官方透露,玄戒O100已申请15项专利,其中4项发明专利已获授权。这款芯片将对接澎湃OS与小米AI大模型,打通手机、汽车、智能家居的整套生态。

从玄戒O3到玄戒O100,小米正在形成主SoC+协处理器的协同路线。在端侧AI算力基础设施上,小米的自主可控能力正在加速成型。

本文地址:https://www.163264.com/15163

(0)
上一篇 3小时前
小米玄戒O100实测:端侧AI性能提升10倍,330Tokens/s流畅跑大模型
下一篇 3小时前

相关推荐