融资近10亿：墨芯用“稀疏计算”撬开国产推理芯片的新窗口
一枚大模型请求进来，通用 GPU 习惯性地把大量参数从头到尾过一遍；但在真实的大模型里，真正被激活的参数，可能只有总参数量的百分之几。剩下的计算，既费电，也费钱。这个看似简单的反差，正在把“稀疏计算”从论文里的优化技巧…
主题标签
稀疏
关于该主题的全部内容，按发布时间持续更新。
1
篇内容
主题标签
一枚大模型请求进来，通用 GPU 习惯性地把大量参数从头到尾过一遍；但在真实的大模型里，真正被激活的参数，可能只有总参数量的百分之几。剩下的计算，既费电，也费钱。这个看似简单的反差，正在把“稀疏计算”从论文里的优化技巧…