Claude API 新增 effort 调节功能 对话中途可切换投入档位
Anthropic 近日为 Claude API 增加了一项 Beta 功能,允许开发者在消息中调整 effort。简单来说,同一段对话不必从头到尾沿用同一套设置,开发者可以随着后续任务的变化,在中途改变模型回答时的“努力程度”。
effort 到底是什么
可以把 effort 理解为让 Claude 回答问题时所投入功夫的档位。它帮助开发者在三个维度之间做取舍:回答的充分程度、响应速度以及使用成本。
需要注意的是,effort 影响的不只是最终写出多少字,还会牵动模型在思考、调用工具和组织回答等环节上的资源投入。换句话说,档位调高,模型在整条回答链路上都会更“用力”。
怎么设置,何时生效
操作方式并不复杂:用户可以在消息序列中插入一条内容为空的 system 消息,并通过新增的 output_config.effort 设置目标等级。整个过程无需改动顶层配置,提示缓存仍然可以命中。
生效时间上有一个细节值得留意:该设置不会修改已经生成的内容,而是从下一条带有新输入的用户消息开始,作用于后续回答。因此,开发者需要关注调整消息插入的位置,以及下一次用户输入出现的时点。
典型用法与意义
在实际场景中,这种中途“换挡”的能力相当实用。比如一段对话的前半部分用于简单问答,后半部分转向复杂分析,开发者就可以在任务切换处设置新的努力等级,而不必回头修改顶层配置。
- 前半段轻量问答,保持快速响应;
- 后半段复杂分析,提高投入档位;
- 全程无需改动顶层配置,缓存照常命中。
同一段对话,按任务需要分配“功夫”,这正是 effort 调节想解决的问题。
对于需要在一段会话里兼顾效率与深度的应用来说,这项 Beta 功能提供了一种更细粒度的控制方式,后续实际效果如何,还有待开发者在真实场景中检验。
相关阅读