返回首页

Agent 成本控制进入会话级:Anthropic 与 AWS 的硬预算实战

成本控制进入会话级: 的硬预算实战

的成本失控是 2026 年企业最头疼的问题之一。过去各家平台的支出上限都是月度、账户级的,而 8 月第一周,控制粒度第一次下沉到了单次会话

  • 8 月 6 日:AWS 在 Bedrock AgentCore 网关上线按用户/工具/模型的时域策略与网关限流,deny-by-default。
  • 8 月 7 日:Anthropic 为 会话新增硬性美元预算——创建会话时以美分整数设定上限,累计消耗到达上限即暂停模型请求(budget_reached)。

各家控制粒度对比

平台 控制 粒度 达到上限时
Anthropic 会话预算 单会话 暂停,改大上限或移除可恢复
AWS AgentCore 时域策略+限流 网关/用户/工具 deny-by-default
支出上限 项目+服务,月度 阻断新用量
硬性上限 组织/项目,月度 429 拒绝

边界与坑

  • 按列表价计费:Anthropic 预算按公开列表价而非你的协议价核算,有折扣时实际账单可能低于上限;
  • 不是断路器:上限在模型请求之间检查,在途请求会跑完——文档示例 50 美分上限可记录到 53 美分,属"预期内";
  • 软提示:Messages 的 task_budget 只是 级"软提示",Claude 可能超额,不可当作硬预算。

落地建议

  1. 生产 Agent 一律开会话级预算,规模按"单请求余量"留富余;
  2. 对开源/自建 Agent,用 等网关层实现等价的会话迭代预算;
  3. 预算监控盯列表价,与账单对账时注意价差。

小结

会话级硬预算让"Agent 无限烧钱"从事故变成了配置项。控制粒度下沉的这一天,是 Agent 规模化落地的分水岭。

评论