「成本优化」相关文章

大模型Agent系统从demo走向生产后，成本会成为最突出的问题。Anthropic官方最近发布了一份基于内部实测数据的优化指南，把所有手段分为"不损失效果的免费优化"和"需要取舍的调节"两类，涵盖prompt缓存、effort调节、任务预算、失败重跑、以及advisor和orchestrator两种多模型架构。其中prompt缓存是最大的单一杠杆，可将agent循环成本压缩到原来的三分之一左右。本文完整梳理了这份文档的关键结论、适用条件和失效场景。