跳到文章正文
行业/好文 编辑推荐

Marvell 和 Penguin 做出光学内存池:隔着几米共享 HBM 带宽

两家公司推出多机架光学 I/O 内存池,多个 XPU 可在数米距离共享 HBM 级带宽,最高 1…

Marvell 和 Penguin 做出光学内存池:隔着几米共享 HBM 带宽

AI 芯片越堆越多,内存墙就越明显:算力上去了,数据供不上,卡再多也白搭。Marvell 和 Penguin 给出的思路是,把内存从单台机器里拿出来,做成整个机架甚至多个机架共享的资源池。

两家公司合作推出两款产品,一个是 DDR4 CXL 内存扩展卡,另一个是号称业界首款多机架光学 I/O 内存池 MemoryAI Photonic Appliance。后者让多个 XPU 通过光互连,在几米的距离上共享接近 HBM 级别的内存带宽。

规格上,这套系统基于 Marvell 的 Photonic Fabric 平台和硅光子内存模块,可扩展到 16TB DDR5 RDIMM 加 578GB HBM3E,总带宽 57.6 Tbps。它支持三种模式:直接访问 HBM、直接访问 DDR5,以及把 DDR5 当作 HBM 的缓存用,系统可以按需分配。

说得直白些,以前内存是焊在板子边上的“私产”,现在变成了可以远程调用的“公共仓库”。对动辄要跑几千亿参数模型的集群来说,这能提高 DRAM 利用率,减少为了容量而堆机器的浪费。

产品计划在 2027 年下半年向部分客户送样。距离落地还有两年,但方向已经很清楚:光互连正在从网络层往内存层渗透。

本文地址:https://www.163264.com/21679