Claude API成本随令牌使用量增长。对于频繁调用API的应用程序，了解令牌效率和提示缓存可以将适合工作负载的成本降低60-80%。以下是技术细节。
提示缓存的工作原理
提示缓存（在Claude 3.5 Sonnet和Haiku上可用）允许你的提示的重复部分在服务器端缓存。当相同前缀出现在多个API调用中时，缓存版本的读取成本约为重新处理完整令牌的10%。对于在许多请求中使用长系统提示或参考文档的应用程序，缓存该部分大幅降低输入令牌成本。缓存TTL为5分钟——5分钟内的API调用重用缓存前缀。
缓存提供最大价值的时机
最适合缓存的候选：长系统提示（指令、角色定义、输出格式）、加载到上下文中的参考文档（代码库、文档、政策）、在请求间不变的少量示例。价值最低：短系统提示、高度可变内容、一次性API调用。计算：在100个API调用中使用的10,000令牌系统提示，不缓存时成本为10,000×100=1,000,000个输入令牌。有缓存时，成本为10,000（首次调用）+1,000×99（缓存读取）=109,000令牌——降低89%。
批处理API
Anthropic批处理API以50%的成本降低异步处理请求——非常适合不需要即时响应的工作负载。使用案例：大规模内容生成（1,000个产品描述）、数据分类（大型数据集）、离线分析任务。提交批次，等待最多24小时完成，检索结果。成本降低使非实时AI工作负载更经济。
令牌计数和优化
在发送昂贵请求之前使用client.messages.count_tokens()审计提示长度。常见优化机会：删除冗长的少量示例（保留2-3个，不是10个），压缩系统提示（删除冗余），使用需要更少令牌指定的结构化输出格式，以及对于不需要完整推理的分类和简单提取任务优先选择较短的模型变体（Haiku）。
