小米玄戒O100是这次技术沟通会上最受关注的产品之一。作为小米首颗专为端侧大模型设计的AI加速芯片,它用一项行业首创的技术解决了端侧AI的内存墙难题。
6nm 3D晶圆级堆叠:行业首创
玄戒O100采用了Wafer on Wafer(WoW)晶圆级垂直堆叠封装工艺,这是行业首款采用该技术的AI芯片。通过Hybrid Bonding混合键合技术,实现了1.4微米的超小键合间距。
具体结构上是6nm Logic Die与2层DRAM Die的3D堆叠,数据连线从传统POP封装的96路扩展至28672路,实现了近300倍的数据通路提升。TSV(硅通孔)直径缩小至0.7微米。
性能数据:带宽是旗舰手机的16倍
- 内存带宽:1.22TB/s,达到传统旗舰手机的16倍
- 端侧推理速度:最高330 Tokens/s(运行MiMo-3B模型)
- 散热:集成玄武高带宽矩阵总线,风冷主动散热可实现10瓦级解热
为什么需要这么高的带宽?
随着端侧大模型部署需求爆发,传统SoC的I/O带宽已难以承载日益增长的AI推理负载。大模型推理过程中需要频繁地在内存和计算单元之间搬运数据,带宽不足直接导致推理卡顿。
玄戒O100通过Face-to-Face金属层直连架构,大幅缩短了DRAM与底层计算逻辑的物理距离,从根本上解决了这个瓶颈。
已申请15项专利
据官方透露,玄戒O100已申请15项专利,其中4项发明专利已获授权。这款芯片将对接澎湃OS与小米AI大模型,打通手机、汽车、智能家居的整套生态。
从玄戒O3到玄戒O100,小米正在形成主SoC+协处理器的协同路线。在端侧AI算力基础设施上,小米的自主可控能力正在加速成型。
本文地址:https://www.163264.com/15163


微信扫一扫,鼓励一下~