不用显卡也能跑 2.8 万亿参数:玩家用停产傲腾内存跑通 Kimi K3,每秒 1.5 个词元
跑大模型一定要堆显卡吗?一位 Reddit 网友给出的答案有点反常识:不用显卡,用已经停产的英特尔傲腾持久内存,也能把 2.8 万亿参数的 Kimi K3 跑起来——虽然速度慢到每秒 1.5 个词元,但确实跑通了。 有玩…
主题标签
跑大模型一定要堆显卡吗?一位 Reddit 网友给出的答案有点反常识:不用显卡,用已经停产的英特尔傲腾持久内存,也能把 2.8 万亿参数的 Kimi K3 跑起来——虽然速度慢到每秒 1.5 个词元,但确实跑通了。 有玩…