行业/好文 编辑推荐
荷兰初创公司端出 400W 推理芯片:一颗跑 1.6 万亿参数 MoE
Axelera AI 公布第三代 AIPU 芯片 Titania 架构,主打数据中心推理,202…
文章目录


荷兰芯片初创公司 Axelera AI 公布了第三代 AIPU 芯片 Titania 的架构。这颗芯片不去抢训练市场,而是盯着数据中心的推理环节,预计 2027 年第三季度量产,目前已经拿到超过 3 亿美元订单。
先看硬指标。Titania 设计功耗 400W,由两个基于第三代 D-IMC 架构的计算芯粒组成,专门针对稀疏 MoE 模型做了优化,支持 MXFP4、MXFP8 数据格式,FP8 算力可达 2.5 PFLOPS。片上集成 128MB 共享 SRAM 缓存,还塞进了 32 个 RISC-V 内核,用来分担主机 CPU 的调度负载。
外围配置同样齐全:芯片带有 AV1、H.265 等多格式编解码器;SiP 封装内集成 128GB LPDDR6 内存,总带宽 2456GB/s。形态上支持 PCIe AIC 和 OCP OAM 两种板卡标准,方便整机厂直接采用。
Axelera AI 给出的整机示例是:一台 4U 的八卡 Titania 风冷服务器,能以 FP4 精度在本地运行 1.6 万亿参数的 MoE 模型。公司还声称,Titania 能做到当前数据中心级服务器 7 倍的每瓦吞吐量、二十分之一的总拥有成本;在 DeepSeek R1 上,这台风冷服务器的每用户速度可以匹配英伟达 Vera Rubin NVL72 液冷机架。
这些数字目前都是厂商口径,真正落地还要等 2027 年量产后的第三方测试。但方向很清楚:推理成本正在成为大模型商业化的关键变量,一批专做推理的芯片公司正试图从英伟达手里切走这块蛋糕。
本文地址:https://www.163264.com/20951

