跳到文章正文
报告 编辑推荐

信通院报告:国内大模型日均词元消耗 500 万亿,一年翻四倍,均价也从 6.8 元涨到 13.46 元

过去两年,大模型行业最常被引用的一句话是「价格战」。但中国信息通信研究院 10 月 23 日发布…

过去两年,大模型行业最常被引用的一句话是「价格战」。但中国信息通信研究院 10 月 23 日发布的《大模型词元服务性能监测报告(2026 年)》给出了一个相反的信号:价格战正在退潮,词元用量却在加速。报告基于 2026 年 1 至 8 月的监测数据,覆盖调用成功率、吞吐速度、首词时延、稳定性、价格与上下文窗口等维度,是国内少见的、把「词元服务」当作独立商品来测量的产业报告。

一分钟速览

  • 2026 年 6 月,国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍。
  • 8 月国内模型平均吞吐 78.23 个词元/秒,较 2025 年均值 38.25 翻倍;国外典型模型同期为 112.82。
  • 国内首词时延从 2025 年均值 0.78 秒升至 8 月的 1.26 秒,国外典型模型为 2.08 秒,双方趋势一致。
  • 国内归一化均价从 2025 年下半年的 6.8 元升至今年以来的 13.46 元,接近翻倍;国外典型模型约 117.8 元。
  • 上下文长度达到 100 万词元的模型占比 47.8%,20 万及以上合计 95.7%,比 2025 年底提高超过 76 个百分点。

用量翻四倍,说明什么

日均 500 万亿词元是一个容易被低估的数字。它意味着大模型的主要消耗方已经从「人问一句、模型答一句」的聊天场景,转向了后台持续运行的批量任务:文档解析、代码生成、客服对话、数据标注、智能体循环。聊天是一次性的,批处理是持续性的,后者的增长曲线要陡得多。

报告提到,越来越多 MaaS 平台通过公有云 API 供给词元服务,而用户对性能缺乏直观判断依据、面临选型困难。这句话点出了当前市场的真实状态:模型能力趋同之后,竞争从「谁的模型强」变成了「谁的服务稳、谁的单价清楚、谁的首词快」。词元服务正在从模型附赠品变成独立品类。

吞吐翻倍,延迟却在涨

8 月国内平均吞吐 78.23 个词元/秒,相比 2025 年均值 38.25 翻了一倍,这个进步主要来自推理优化:批处理调度、KV 缓存管理、投机解码、量化。但同期首词时延从 0.78 秒涨到 1.26 秒,报告的解释是这不是单纯的性能退化,而是参数量增加、上下文变长、调用量上升共同作用的结果。

这个解释值得认真对待。上下文从 20 万向 100 万扩展,意味着每次请求要预填充的内容多了几倍,首词时延必然被推高;模型参数变大,单次前向计算也更重。换句话说,用户在用「等得更久」换「记得更多、答得更准」。真正的问题不是延迟涨了,而是产品有没有把这段等待藏起来——流式输出、预填充缓存、任务前置,都是把延迟从感知里抹掉的手段。报告给出的国外数据是 2.08 秒,说明这不是国内独有现象。

价格回升:从抢份额到算成本

最反直觉的是价格。国内归一化均价从 6.8 元涨到 13.46 元,接近翻倍。经历了两年「一分钱一百万词元」的价格战后,厂商开始重新计算推理成本:长上下文更贵、并发更高、SLA 更严,这些都要钱。价格回升不等于用户变亏,而是市场从「用补贴换调用量」转向「用价格反映真实成本」。

值得注意的是横向对比:国外典型模型 2026 年以来平均归一化价格约 117.8 元,仍是国内价格的数倍。这个差距既解释了为什么大量海外开发者转向开源模型和第三方平台,也解释了为什么国内厂商在涨价的同时仍要保持相对低价——涨价空间存在,但天花板由跨境替代品压着。

开源模型与平台分化

报告监测了 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现,结论有两条。第一,开源模型的词元服务性能提升显著,8 月 DeepSeek-V4-Pro 的吞吐已达到 DeepSeek-V3.2 的两倍;5 月主要模型换代后首词时延阶段性上升,随着推理优化落地又逐步回落。第二,同一模型在不同平台之间的吞吐差距最大可接近一倍,部分第三方平台明显优于官方平台。

第二条对选型的人更有用:模型是一个变量,平台是另一个同样大的变量。推理加速策略、批处理调度、成本控制的不同,会让同一个权重跑出完全不同的体验。把「选模型」当成唯一决策,等于忽略了一半的性能方差。

趋势判断

这份报告实际上画出了三条线。第一条是需求线:词元消耗四倍增长,说明应用侧已经从试点进入规模调用。第二条是能力线:吞吐翻倍、上下文向百万级集中,长文档与长任务成为默认场景。第三条是价格线:补贴退潮,服务开始按成本定价。

三条线交汇的地方,是「词元服务」作为一个独立品类的成熟。接下来行业会比拼三件事:单位词元的真实成本、长上下文下的首词体验、以及跨平台的性能一致性。对使用者来说,最实际的建议是——不要只看榜单分数,拿自己的真实请求去测吞吐和首词时延,因为同一模型在不同平台上的差距,可能比两个模型之间的差距还大。

本文地址:https://www.163264.com/17802