跳到文章正文
大模型 编辑推荐

蚂蚁数科发布决策模型 LingDT-Decision-1.0:Token 消耗降九成,响应快十倍

企业里大量工作其实不是"写东西",而是"做判断"。这张工单该派给谁,这条评论是催单还是投诉,这个…

企业里大量工作其实不是”写东西”,而是”做判断”。这张工单该派给谁,这条评论是催单还是投诉,这个客户要不要人工接管——这些活让大模型来干,往往又慢又贵。蚂蚁数科今天发布的决策模型 LingDT-Decision-1.0,瞄准的就是这块空白。

一分钟速览

  • 模型专为高频产业决策设计,目标是给出判断,而不是生成文章。
  • 在 23 项开源评测中,性能超过 Microsoft-Decision-1、Jev 1.13 等热门决策模型。
  • 27B 版本在同参数规模模型中取得最高准确率。
  • 真实业务测试中,同样任务下 Token 消耗降低超 90%,响应时效提升 10 倍。
  • 提供 4B 与 27B 两个版本,已在 DTMaaS 平台上线,可限时免费体验。

为什么大模型做判断不划算

大语言模型的工作方式是逐字推理,再逐字生成输出。让它回答一个开放问题,这套机制很合适;可如果只是判断”这是退款、催单还是投诉”,它仍然要先把推理过程一个字一个字写出来,链路长、成本高,出错的机会也更多。

举个真实的场景。客服收到一句”这个订单已经三天了还没发货,请尽快处理”,系统需要在极短时间内完成好几件事:判断问题类型,评估工单紧急度,决定归属部门,再判断是否需要人工介入。每一步都是决策,不是创作。

决策模型的思路完全不同:它不追求把话说漂亮,只追求判断得快、准、稳定。因此它天然适合意图识别、工具选择、规则分类、结果打分这类高频任务。

它多了两种”决策姿势”

相比其他决策模型,LingDT-Decision-1.0 强调的是贴合企业真实场景。除了判断、单选、分类、评级这些基础能力,它还首次支持原生多选与按序决策。

这两点听着抽象,实际很实用。现实业务里经常出现”同时符合多个标签”的情况,也经常需要按依赖顺序一步步推进——先确认身份,再查权限,最后才决定动作。能原生处理这类结构,比让模型用自然语言绕着描述要可靠得多。

省下来的不只是钱

蚂蚁数科给出的测试数据是:在客服、风控、金融等场景中处理同样任务,相比大语言模型,Token 消耗降低超过 90%,响应时效提升 10 倍,性能表现还更好。

成本下降九成听起来夸张,但逻辑并不复杂:少生成几百个字,就少算几百次推理。对每天要处理百万级请求的业务系统来说,这不只是省钱,更意味着同样的算力可以扛住更多并发,也意味着响应能压进用户愿意等待的那一秒里。

趋势洞察

模型行业正在分层。一层往上走,追求更强的通用能力,参数越堆越大;另一层往下沉,针对具体任务做小而专的模型,把成本和延迟压到极致。企业真正愿意持续付费的,往往是后者——因为它解决的是每天都会发生的问题。

当然,专精模型的边界也很清楚:它擅长在既定规则内快速判断,遇到需要解释、需要创造、需要多轮沟通的场景,还是得交回通用模型。未来的系统大概率不是选一个模型,而是让两类模型各干各的活。

本文地址:https://www.163264.com/17731