7530 亿参数的 GLM-5.3,两台 DGX 跑出 607.8 tok/s:本地推理摸到“可服务”门槛
GLM-5.3 量化后约 464GB,单张 GB300 的 252GB HBM3e 装不下。NVIDIA 用两台 DGX Station 走 ConnectX-8 RDMA、TP=2,把这套模型跑成了单一 OpenAI…
主题标签
GLM-5.3 量化后约 464GB,单张 GB300 的 252GB HBM3e 装不下。NVIDIA 用两台 DGX Station 走 ConnectX-8 RDMA、TP=2,把这套模型跑成了单一 OpenAI…
模型公司缺算力,运营商缺模型。这两件事凑在一起,就有了 11 月 6 日那场签约:中国移动云公司与北京智谱华章科技股份有限公司正式签署合作协议…
法律是 AI 落地最挑剔的场景之一:它要求准确、可追溯、能交付,还要对错误负责。正因如此,法律模型一直是大模型厂商的“硬骨头”。 智谱最新推出的…
当别的模型还在以几十上百 token 每秒的速度「挤牙膏」时,智谱的一款新模型直接把速度干到了 490 tokens/s——这意味着生成 1 万…
中国大模型出海,正在从"技术输出"走向"生态共建"。 一分钟速览 智谱GLM-5.3正式上架亚马逊AWS平台 智谱打开海外收入分成通道 这是中国…
今天AI圈好几件事值得关注,整理一下:1、智谱GLM-5.3 API上线,开源模型并列第一智谱GLM-5.3的API正式开放了。AA指数拿到60…
国内大模型圈又出大事了——智谱GLM-5.3 API正式上线,而且下周五就要开源权重。这意味着什么?以后你不仅能免费用,还能自己部署,再也不用看…
智谱今天正式发布了GLM-5.3大模型,距离创始人预告仅几个小时。这次升级虽然基座参数量仍保持7400亿不变(万亿参数可能留给后续版本),但通过…