推理
-
蚂蚁集团百灵大模型开源 Ling-2.6-flash:104B参数仅激活7.4B,推理速度最高340 tokens/s
蚂蚁集团旗下百灵大模型今日宣布正式开源 Ling-2.6-flash,这是一款总参数量 104B、激活参数仅 7.4B 的 Instruct 模型,以极低的推理成本实现了令人瞩目的性能表现。 核心看点 104B 总参、7.4B 激活:采用混合专家(MoE)架构,大幅降低推理资源需求 推理速度达 340 tokens/s:在 4 卡 H20 环境下实现极速推理,Prefill 吞…
-
英伟达开源Nemotron 3 Nano Omni全模态模型:30B参数MoE架构,吞吐量暴增9.2倍
英伟达又放了个大招。当地时间4月28日,英伟达正式发布了 Nemotron 3 Nano Omni 开源全模态推理模型,一口气把视频、音频、图像和文本的多模态推理能力塞进了一个统一的模型里。翻译成大白话就是:以前需要好几个模型串起来干的活儿,现在一个模型全搞定。 核心看点 采用30B-A3B混合MoE(混合专家)架构,每个token只激活3B参数,效率拉满 视频推理吞吐量最高提…
-
蚂蚁百灵发布万亿旗舰 Ling-2.6-1T:不走推理路线的”快思考”模型,对标 GPT-5.4
蚂蚁集团旗下百灵大模型团队正式发布了一款不走寻常路的作品——面向即时任务执行的万亿级综合旗舰模型 Ling-2.6-1T。它放弃了行业普遍追求的”慢思考”多步推理模式,用”快思考”机制硬刚 GPT-5.4 非推理版。 核心看点 Ling-2.6-1T 采用 MLA + LinearAttention 混合架构,万亿参数仅凭极低 T…
