anthropic-Claude 编辑推荐
Claude API 能在对话中途「换挡」了:随时调模型的用功程度
Anthropic 为 Claude API 增加 Beta 功能,开发者可在消息中调整 eff…
文章目录

Anthropic 给 Claude API 加了一项 Beta 功能:开发者可以在消息里调整 effort,也就是让模型「投入多少功夫」的档位。同一段对话不必从头到尾用同一套设置,可以根据后面的任务需要,中途改变模型的努力程度。
effort 影响的不只是最后写多少字。它还会影响模型在思考、调用工具和组织回答这些环节投入多少资源,本质上是在回答的充分程度、响应速度和使用成本之间做取舍。任务简单时调低,能省钱也更快;任务复杂时调高,回答会更完整。
用法上,开发者可以在消息序列里插入一条内容为空的 system 消息,再通过新的 output_config.effort 设置目标等级。整个过程不需要改动顶层配置,已有的提示缓存仍然可以命中,不会因为换档而全部重算。
生效时间需要注意:这个设置不会修改已经生成的内容,而是从下一条带有新输入的用户消息开始,作用于后续的回答。所以开发者要留意调整消息插在哪里,以及下一次用户输入会在什么时候出现。
比较典型的使用场景是:一段对话前半部分做简单问答,后半部分转向复杂分析。以前要么全程用高配置、成本偏高,要么重开对话、丢掉上下文;现在只要在任务切换的位置设一个新的努力等级,就能平滑过渡。
本文地址:https://www.163264.com/20814


