北大与 IBM 给“现代模拟计算”下定义:100 万个乘法器,一步解矩阵方程
在智算中心里,最贵的往往不是芯片,而是那笔永远算不清的账:电费、散热、还有把数据在存储和计算之间…
文章目录
在智算中心里,最贵的往往不是芯片,而是那笔永远算不清的账:电费、散热、还有把数据在存储和计算之间来回搬运的时间。当模型越来越大,矩阵方程越解越多,数字芯片的效率边界开始变得刺眼。11 月 3 日,一篇发表在 Nature 旗下期刊的综述,试图给”现代模拟计算”立一个正式定义,也给这条被冷落了几十年的路线重新划了边界。
一分钟速览
- 综述由北京大学孙仲团队主导,合作者来自 IBM 苏黎世研究院和硅谷初创公司 Unconventional AI。
- 论文从任务、硬件、可行性三个维度,区分”现代模拟计算”与半个世纪前的传统模拟计算。
- 现代模拟计算主要面向 AI 与 6G 场景中的矩阵计算,硬件基础是阻变存储器等新型纳米器件。
- 利用欧姆定律做乘法、基尔霍夫电流定律做求和,1000×1000 交叉阵列可集成 100 万个天然乘法器。
- 孙仲团队创业公司安纳智芯的模拟矩阵计算电路,求解矩阵方程单次耗时小于 100 纳秒,且与矩阵维度无关。
- 借助位切片与迭代,求解相对误差可压到 10^-4,进一步收敛至 10^-7,接近数字处理器的 FP32 精度。
模拟计算不是”连续计算”
提到模拟计算,很多人会想到半个世纪前被数字芯片淘汰的老机器:用电压高低表示数值,精度差、难扩展、容易漂移。这篇综述要做的第一件事,就是把这个印象切开。
作者引用的一项认知科学研究指出,”模拟”的核心不在”连续”,而在”类比”——不经过二进制符号抽象,直接把数学问题映射到物理系统上,让物理定律自己给出答案。小孩学算术,一颗苹果加一颗苹果等于两颗苹果,三堆各五颗苹果合起来数出十五颗,这就是最原始的物理映射。
现代模拟计算沿用同样的思路,只是把苹果换成了电路里的物理量。电压、电流可以实时变化,电阻却一旦制造就固定。想用欧姆定律算乘法,两个乘数都在变,一个可以做成电压,另一个如果被固定成电阻,就没法应对动态任务。
阻变存储器提供了突破口。这种器件的导电能力可以通过电脉冲精确改写,断电后还能保持,相当于在电压和电流之外,给电路增加了一个可存储、可调节的物理变量——电导。一个乘数编程为电导,另一个作为电压加载,电流流过的瞬间,乘积就出来了;多路电流汇入同一列导线,基尔霍夫定律自然完成求和。
100 万个乘法器是怎么来的
传统 CMOS 模拟电路做不大,原因很实际。2016 年《JSSC》上的一颗 65 纳米模拟芯片,面积不小,却只放得下 4 个积分器和 8 个乘法器。模拟电压长距离传输会衰减,运算放大器又占面积,想在单颗芯片上集成 100 万个 CMOS 乘法器,几乎没有物理可行性。
阻变存储器改变了制造方式:横向铺 1000 根金属行线,纵向跨 1000 根金属列线,在每个交叉点夹一层阻变材料。1000×1000 的阵列,在很小的面积里天然形成 100 万个物理交点,每个交点都有独立电导。行线加压,交点出流,100 万个并行的模拟乘法器就位了。
论文把模拟计算归纳为三个核心原语:解微分方程、解矩阵方程、矩阵向量乘法。三者共享加法器、乘法器、积分器这组基本算子,在数学和电路层面互相贯通。微分方程离散化后可以化为矩阵方程,矩阵方程既可以用矩阵乘法迭代逼近,也可以直接通过模拟闭环网络一步测出。
真正的硬骨头是精度
速度快不难,难的是算得准。2019 年,孙仲团队在《PNAS》上展示一步求解矩阵方程时,受器件涨落影响,相对误差大约 3%,阵列规模只有 3×3。这个精度放在实验室里是突破,放在产业里不够用。
后来的方案借鉴了早期数字计算机的位切片思路:既然连续电导态容易漂移,就放弃连续态,改用每个器件中经过充分验证的 8 个离散电导态,等效为 3 比特。低精度求逆负责定方向,高精度乘法负责消除残差,仅 3 次迭代就把相对误差压到 10^-4,后续可收敛至 10^-7,追平 FP32 单精度浮点。
更关键的是可扩展性。位切片支持纵深扩展,增加切片数量和迭代步数,精度理论上没有上限。面对更大维度,团队设计了 BlockAMC 分块算法,把大矩阵拆成硬件能承载的子块,分批求逆和相乘,实测已扩展到 512×512 维度。
为什么盯上”矩阵求逆”
大多数存算一体团队选择矩阵乘法加速,因为路线清晰、落地快,主要服务 AI 推理。孙仲和安纳智芯选了一条更难的路:从求解矩阵方程和矩阵求逆切入。
理由藏在负载结构里。在智算中心和科学计算中,超过 80% 的算力开销花在求解 Ax=b 这类线性方程组上,而求解的核心很难绕开矩阵求逆。矩阵求逆的复杂度通常是 O(n^3),数字芯片没有专用硬件单元,GPU 只能把它拆成几十次甚至上百次矩阵乘法反复迭代,算力和时间大量消耗在迭代与数据搬运上。
模拟矩阵计算电路在外围引入全局负反馈闭环,让电路的瞬态响应直接对应方程求解。原本需要上百次迭代的运算,一步测量就能输出解,单次操作小于 100 纳秒,而且这个物理响应时间与矩阵维度无关。维度变大,电路规模变大,但求解时间不跟着涨,这是数字方法很难做到的。
趋势:模拟不会取代 GPU,但会接走一类活
把模拟计算说成”颠覆英伟达”,是标题党。它更像是一种专用加速器:在矩阵方程、微分方程、特定推理负载上,用物理定律换掉一部分数字迭代。
真正的挑战在工程侧。模拟器件的良率、温漂、噪声,数模转换的开销,以及与现有数字生态的接口,每一项都不轻。论文也提到,这套系统如何与数字世界无缝兼容,是绕不过去的工程问题。算得快只是第一步,能被调用、被验证、被量产,才是产品。
但方向值得重视。当数字芯片的能效提升越来越依赖制程微缩,而制程逼近物理极限,行业必须寻找新的计算范式。模拟计算提供的不是更快的时钟,而是另一种算账方式:不让电子在存储和计算之间来回跑,而是让物理定律在原地把答案算出来。
这大概也是这篇综述最想传达的东西:模拟计算不是复古,而是一条被重新定义过的赛道。它的机会不在取代谁,而在接住数字芯片越来越不擅长的那部分工作。
本文地址:https://www.163264.com/19024
