Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%

Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%,为多轮对话场景提供高效可靠的落地方案。

Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%

项目地址:

https://github.com/hpcaitech/SwiftInfer

本文地址:https://www.163264.com/6016

(0)
上一篇 2024年1月10日 下午4:42
下一篇 2024年1月10日 下午4:45

相关推荐