跳到文章正文
openai-gpt 编辑推荐

OpenAI 开放「决策 API」:只算输入不算输出,速度快 10 倍,便宜得有点意外

当地时间 10 月 22 日,OpenAI 把一个叫「决策 API」的产品正式开放给所有开发者。…

当地时间 10 月 22 日,OpenAI 把一个叫「决策 API」的产品正式开放给所有开发者。名字听起来抽象,它做的事其实很具体:让程序快速回答一堆有确定答案的小问题,而不是写文章。

它和普通调用有什么不同

常规用法是把问题丢给 GPT-6 Luna,等它想清楚再输出。决策 API 换了个思路,只让模型处理答案范围有限的判断题:这条评论是不是广告、这张图里有没有违规内容、这笔订单该不该人工复核、这段文本属于哪个类别。因为不需要长篇生成,它可以跳过大量推理步骤。

OpenAI 给出的数字是:响应速度比通过 Responses API 调用同一个模型快最多 10 倍,而且单次请求里可以一次问 400 个问题,是此前上限的两倍。

价格低得有点意外

计费方式很简单,只算输入,不算输出。输入每百万词元 0.1 美元,命中缓存的输入每百万词元 0.01 美元,输出免费。换算成人民币,大约是每百万词元七毛钱,缓存命中后不到七分钱。

之所以敢这么定价,是因为这类任务的输出很短。答案可能就是一个标签、一个是或否、一个分类编号。省下的生成长度,直接反映在账单上。

这次补了什么

从公测到现在,OpenAI 陆续加了几项能力。一是原生的 GPT-Live 集成;二是针对重复上下文的提示缓存,同一批规则不用反复计费;三是在美国和欧盟支持推理数据留在本地,这对有合规要求的行业很关键。

开发者现在还能直接传 JSON、在问题里附带图片,并在亚洲多个地区用上了扩充后的服务容量,延迟有所下降。

适合谁,不适合谁

适合的场景高度重复:内容审核、工单分类、风控初筛、批量打标、表单校验。这些工作量大、规则清晰,容错空间靠人工兜底,速度比文采重要得多。

不适合的场景同样明显:写方案、做分析、陪聊、开放式创作。这些任务没有标准答案,硬塞进「限定答案」的框里,只会得到敷衍的结果。

要注意的地方

先得说清楚它不适合拿来「问问题」。这个接口的定位是让程序做判断,不是让人和它聊天。传进去的应该是一条条待判定的数据,出来的应该是一个能直接写进数据库的结果。把它当聊天工具用,既浪费钱,也拿不到想要的效果。

第一,快不等于对。批量判断一旦出错,错误也会成批出现,抽样复核不能省。第二,缓存能省钱,但前提是上下文真的重复,规则频繁变动时收益会打折。

第三,便宜会鼓励大家把更多判断交给模型。这时候谁来为误判负责,需要在流程里写清楚,而不是等出了问题再讨论。工具越顺手,越容易让人忘记它只是个工具。

本文地址:https://www.163264.com/17862