Agent 成本控制进入会话级:Anthropic 与 AWS 的硬预算实战
AI Agent 的成本失控是 2026 年企业最头疼的问题之一。过去各家平台的支出上限都是月度、账户级的,而 8 月第一周,控制粒度第一次下沉到了单次会话:
- 8 月 6 日:AWS 在 Bedrock AgentCore 网关上线按用户/工具/模型的时域策略与网关限流,deny-by-default。
- 8 月 7 日:Anthropic 为 Claude Managed Agents 会话新增硬性美元预算——创建会话时以美分整数设定上限,累计消耗到达上限即暂停模型请求(budget_reached)。
各家控制粒度对比
| 平台 | 控制 | 粒度 | 达到上限时 |
|---|---|---|---|
| Anthropic | 会话预算 | 单会话 | 暂停,改大上限或移除可恢复 |
| AWS AgentCore | 时域策略+限流 | 网关/用户/工具 | deny-by-default |
| 支出上限 | 项目+服务,月度 | 阻断新用量 | |
| OpenAI | 硬性上限 | 组织/项目,月度 | 429 拒绝 |
边界与坑
- 按列表价计费:Anthropic 预算按公开列表价而非你的协议价核算,有折扣时实际账单可能低于上限;
- 不是断路器:上限在模型请求之间检查,在途请求会跑完——文档示例 50 美分上限可记录到 53 美分,属"预期内";
- 软提示:Messages API 的 task_budget 只是 token 级"软提示",Claude 可能超额,不可当作硬预算。
落地建议
- 生产 Agent 一律开会话级预算,规模按"单请求余量"留富余;
- 对开源/自建 Agent,用 LiteLLM 等网关层实现等价的会话迭代预算;
- 预算监控盯列表价,与账单对账时注意价差。
小结
会话级硬预算让"Agent 无限烧钱"从事故变成了配置项。控制粒度下沉的这一天,是 Agent 规模化落地的分水岭。
评论