AI 跑分换了考卷:私有题库上线,DeepSeek V4.1 Flash 拿下开源第一
AI 模型排行榜要换考卷了。10 月 28 日,Artificial Analysis 发布 I…
文章目录
AI 模型排行榜要换考卷了。10 月 28 日,Artificial Analysis 发布 Intelligence Index v5,这是该指数自今年 1 月 v4 上线以来最大的一次改版。
最核心的变化是:60% 的评测权重第一次建立在私有测试集或隐藏答案上。公开题库容易被模型在训练时“背下来”,分数自然虚高;换成私有题,刷榜的空间就小了很多。
编码这块,换成了“能不能合并”
新指数仍由九项评测组成,知识工作、编码、科学、通用能力各占 25%。编码里,Cognition 同一天发布的 FrontierCode 2.0 独占 15%,Terminal-Bench 4.0 占 10%。
FrontierCode 2.0 的评分逻辑很不一样。132 项任务全部来自真实开源仓库,模型交上来的代码不再只看单元测试过不过,而是由仓库维护者按“愿不愿意合并这个 PR”来打分。只要有一项阻塞性检查失败,直接零分。考的不是代码能不能跑,而是这段改动能不能进生产。
按这个口径,DeepSeek V4.1-Flash 1017 拿到 28%,是所有已发布权重模型里的最高分。Kimi K3.1 Pro 以 25.5% 紧随其后,但完整权重要到 11 月 4 日前才发布。谷歌 Gemini 4 Argon 为 25.7%,GPT-6 Luna 为 25.2%,都低于 DeepSeek。
单项领先,不等于总分领先
放到综合分上,差距依然明显。DeepSeek V4.1 Flash 与 GLM-5.3 同为 32 分,榜首 Claude Opus 5.5 是 58 分。更值得注意的是开源与闭源的整体距离:v4.3 时最强开源模型只落后榜首 3 分,v5 把公开题换成私有题、加重智能体实战之后,这个差距拉大到了 12 分。
还有一个被放大的变量是“思考等级”的成本差。Claude Opus 5.5 从低努力档到最高档,分数跨了 23 分,单任务成本从 0.98 美元涨到 10.04 美元,差了约十倍。同一个模型,省钱模式和全力模式的表现,已经不太像同一个模型。
给不同年代的模型一把尺子
同步推出的 Progress Index v1 解决另一个问题:基准几个月换一次,不同年代的模型怎么放在一起比。它把 2022 年 11 月以来发布的主要模型映射到一条连续的能力曲线上,用来观察能力随时间的演进。Intelligence Index 看“当下有多强”,Progress Index 看“进步有多快”。
本文地址:https://www.163264.com/18394