跳到文章正文
大模型 编辑推荐

Liquid AI 发布 LFM3 模型家族:参数少了三成,性能反而更强

从麻省理工学院走出来的 AI 公司 Liquid AI,近日发布了第三代模型家族 LFM3。这一…

从麻省理工学院走出来的 AI 公司 Liquid AI,近日发布了第三代模型家族 LFM3。这一代全部基于全新的「三混合层」架构,在 22 万亿词元上预训练完成,主打的是同一件事:用更小的体积,换更好的效果。

首批产品不是单一模型,而是一整个家族:LFM-1.7B 负责文本,LFM3-VL-2B 看图像,d1-2B 做决策,LFM3-Audio 处理音频,LFM3-Omni-2B 和 d1-Omni-2B 则把多种能力合到一起。它们都建立在同一个基座 LFM3-1.7B-Base 之上。

一分钟速览

  • LFM3 采用三混合层架构,预训练数据规模为 22 万亿词元。
  • 文本模型 LFM-1.7B 支持 256K 上下文窗口。
  • 官方称其参数比上代 LFM2.5-2.6B 少 35%,性能却更好。
  • 首批六款模型覆盖文本、视觉、音频、决策与全能方向。

「混合层」是什么意思

主流大模型几乎都建立在 Transformer 架构上,注意力机制让每个词都能看到上下文里的其他词。代价是上下文越长,计算量涨得越快,部署成本也跟着上去。

Liquid AI 一直想绕开这条路。它的技术源头是「液态神经网络」,用更紧凑的状态更新来描述序列,而不是把所有历史都存下来做两两比对。LFM3 的「三混合层」,可以理解为把不同类型的计算层混着搭:有的擅长抓局部细节,有的擅长处理长距离依赖,有的负责把信息压缩成更省算力的状态。

这种设计的直接好处是效率。同样一段文本,参数更少、内存占用更低,跑起来更快;如果架构搭得合适,效果还不一定更差。官方给出的对比是:LFM-1.7B 的参数比上一代 LFM2.5-2.6B 少了 35%,性能却超过了后者。

256K 上下文意味着什么

LFM-1.7B 支持 256K 上下文窗口。粗略换算,这相当于一次能塞进几十万字的中文材料,比如一整份合同、一本小册子,或者几个小时的会议记录。

长上下文的价值不只在「能装下」,更在于「记得住」。很多模型标称支持很长,实际用起来中间部分容易丢。小模型要在长上下文里保持稳定,架构效率就是关键,这也是 LFM3 强调混合层的原因。

小模型为什么越来越重要

过去两年,行业习惯用参数量讲故事。但真正落地时,客户关心的往往是另一组数字:一张卡能不能跑、响应要几百毫秒、每天的电费是多少。在这些约束下,1B 到 3B 这个区间反而最实用,手机、车机、边缘设备都塞得进去。

Liquid AI 选择在这个尺寸上做一整个家族,思路很明确:先用一个足够强的基座,再往上长出视觉、音频、决策这些分支,让开发者按需取用,而不是每件事都去调一个几百 B 的大模型。

趋势洞察

模型竞赛正在分岔。一条路继续堆参数,追求能力的上限;另一条路压缩成本,追求每瓦性能。前者决定行业能走多远,后者决定技术能铺多广。

LFM3 的意义,不在于它能不能打赢最大的模型,而在于它证明了「换个架构」仍有空间。当算力越来越贵,架构创新带来的效率提升,可能比多买几千张卡更划算。

本文地址:https://www.163264.com/18360