蚂蚁集团百灵大模型开源 Ling-2.6-flash:104B参数、4卡H20跑到340 tokens/s
4月29日消息,蚂蚁集团旗下百灵大模型今日宣布 Ling-2.6-flash 正式开源,同步提供 BF16、FP8、INT4 等多个量化版本,方便开发者根据硬件环境和部署需求灵活选择。 核心看点 惊人推理速度:4卡H20…
主题标签
4月29日消息,蚂蚁集团旗下百灵大模型今日宣布 Ling-2.6-flash 正式开源,同步提供 BF16、FP8、INT4 等多个量化版本,方便开发者根据硬件环境和部署需求灵活选择。 核心看点 惊人推理速度:4卡H20…
蚂蚁集团全模态通用AI助手灵光App今日正式上线"体验世界模型"功能,号称首次将世界模型搬进手机。用户只需上传一张图片,几秒钟就能生成一个可探索…