算力提速关键突破:北大与DeepSeek联合开源大模型推理框架DSpark
大模型推理的速度和成本,一直是AI落地的两大痛点。最近,北京大学和DeepSeek联合开源了一个叫DSpark的推理框架,专门解决这两个问题。 从初步信息来看,DSpark在生成效率和吞吐量上都有显著提升。对于需要大规模…
主题标签
大模型推理的速度和成本,一直是AI落地的两大痛点。最近,北京大学和DeepSeek联合开源了一个叫DSpark的推理框架,专门解决这两个问题。 从初步信息来看,DSpark在生成效率和吞吐量上都有显著提升。对于需要大规模…