不写一句话，只给概率：TypeSafe 的 Jev 想把大模型从聊天框里拽出来

很多 AI 应用根本不需要一段漂亮的文字。客服系统只想知道“这封邮件该不该退款”，风控系统只想知道“这笔交易有多大概率是欺诈”，Agent 只想知道“下一步该调用哪个工具”。可今天的大模型，仍然要先把这些判断写成一段话，再让程序去解析。TypeSafe AI 的 Jev 想跳过这一步：它不生成文本，只返回带类型的概率。

一分钟速览

• TypeSafe AI 发布 Jev，定位为“System One Model”，只输出 Choice、Score、Noul 三类结构化概率答案。
• 输入每百万 Token 0.042 美元，输出免费，32K 上下文，端到端延迟 70 至 500 毫秒。
• 采用“校准决策强化学习”训练，高置信度可自动执行，低置信度则升级给人工。
• Vercel、Netlify、LangChain 已集成；早期用户报告速度提升中位数 7 倍、成本节省中位数 30 倍。

把“判断”做成一个 API

Jev 的调用方式很直接：调用方发送一段状态信息，可以是字符串或结构化数据，再附上一组带类型定义的问题。Jev 在一次并行处理中评估所有问题，返回 Choice（选择）、Score（评分）和 Noul（布尔概率）三类答案，并附带概率分布和置信度。调用代码可以在置信度高于阈值时直接执行操作，低于阈值时转人工或走另一条流程。

这和聊天机器人的范式完全不同。聊天机器人输出的是自然语言，程序要从中抽取意图，抽取错了就出错；Jev 输出的是类型化的值，程序可以直接拿去做判断。TypeSafe 把这类模型称为 System One Model，借用的是心理学里“快速、直觉、低能耗”的系统一概念，对应的是需要长时间推理的“系统二”。

价格和延迟也按“高频判断”设计：输入每百万 Token 0.042 美元，输出免费，上下文 32K，端到端 70 至 500 毫秒。对需要每天处理数百万封邮件、数千万条日志的系统来说，这个成本结构比调用通用大模型更有吸引力。

谁在做，为什么值得看

TypeSafe AI 位于旧金山，由 Diogo Almeida、Erik Gafni 和 Sasha Sheng 共同创立。Almeida 是 RLHF 的联合发明人之一，也参与了 ChatGPT 背后的研究工作。团队选择从“决策”而不是“生成”切入，本身就是一种判断：通用模型会继续变强，但在大量生产场景里，用户要的不是更多文字，而是更便宜、更快、更可校准的判断。

市场的早期反馈不差。Vercel 在 Jev 发布第二天就把它加入 AI Gateway，并表示 24 小时内覆盖了近 13% 的付费团队，比例是 GPT-5.6 系列模型的两倍。Netlify 随后跟进，LangChain 发布了 TypeSafeClassifier 集成，支持模型路由和 AutoMode 中间件，可在工具调用执行前做筛查；几天内还出现了五个独立的 Elixir 客户端。

具体案例也有意思。Vercel 工程师 Pranit Sharma 发现，安全分类器的运行速度比它替代的大语言模型快 5 到 18 倍。Bryo AI 的 CTO Nikhil Mudholkar 认为，Gemini 在邮件分类上的准确率略高，但成本高出 10 到 20 倍，他看重 Jev 是因为它是少数能返回真实概率的模型。

“不幻觉”是一个需要拆开的说法

Jev 的卖点之一是“不会输出无效的类型”。这确实解决了工程上的麻烦：程序不用再处理模型返回一段解释、或者返回一个不存在的枚举值。但它不等于“不会出错”。Hacker News 上有开发者指出，Jev 仍然可能输出完全错误但格式合法的值；它只是把“格式错误”这一类问题消掉了，没有消掉“判断错误”。

Earendil 的 CTO Armin Ronacher 说得更直接：这种设计“在一定程度上把幻觉问题交给了用户”，因为用户必须自己决定，50% 的概率是否值得采取行动。这句话点中了要害。概率不是答案，阈值才是。阈值设得太低，错误自动执行；设得太高，系统又退化成人工审核。Jev 把决策权交还给调用方，也把校准的责任交还给了调用方。

TypeSafe 自己的文档也不回避局限。jev-1.13 版本的“已知不稳定特性”页面记录了它在计数、算术和日期比较上的不可靠，以及在处理包含大量噪声的长状态信息时准确率下降的问题，并建议把数学计算留在代码里完成。对准备替换 LLM 分类器的团队，文档建议固定具体版本号，而不是使用不断更新的 latest 别名，并用 System One adapter 让现有模型跑同一套 Schema 做基准测试。

专用模型会不会成为新一层基础设施

过去两年，行业的主线是“一个更大的通用模型解决所有问题”。但生产系统很快发现，通用模型在分类、路由、打分这些高频任务上，成本高、延迟高、输出还需要二次解析。专用决策模型的出现，等于在通用模型和传统机器学习之间切出了一层：比规则和传统分类器更懂语义，比通用大模型更快更便宜。

这层能不能站住，取决于三件事。第一，校准是否可信：概率必须和真实世界的命中率对得上，否则阈值没有意义。第二，覆盖是否够广：如果每换一个任务就要重新训练，规模效应就起不来。第三，生态是否开放：Vercel、Netlify、LangChain 的集成是好的开始，但真正的考验是开发者能不能在几天内完成迁移。

Jev 不是要取代 ChatGPT，它更像是在大模型旁边加了一个“判断芯片”。当 Agent 越来越多、调用越来越频繁，这种又便宜又快的决策层，可能比又一个聊天机器人更有用。