很多创业团队在早期验证阶段不在意API成本，但当应用规模化（日活过万、日调用量过百万）后，API费用可能迅速成为成本中的主要支出之一。本文从工程实战角度，分享7个经过验证、可以显著降低LLM API成本的优化策略。
策略一：模型分级（Model Cascading）
不是所有任务都需要最强的模型。建立三级模型体系：简单任务（分类、短文本摘要、意图识别）→ GPT-4o Mini或Claude Haiku（成本约为主力模型的1/20）；中等任务（多轮对话、标准问答）→ GPT-4o或Claude Sonnet；复杂任务（代码生成、长文档分析、复杂推理）→ 最强模型。
实践数据：一个内容平台把80%的分类和摘要任务切换到Mini模型后，月API费用降低了65%，用户体验无显著下降。
策略二：Prompt Caching（提示词缓存）
Anthropic的Prompt Caching功能：如果你的API请求中包含大量不变的内容（固定的系统提示、长背景文档），这部分内容在首次请求后可以缓存，后续请求直接使用缓存版本，价格约为正常价格的10%。
适合场景：企业知识库问答（系统提示+公司文档，每次不变）；代码助手（代码库上下文）；法律文件分析（法律条款背景）。Anthropic Caching文档
策略三：批量处理（Batch API）
OpenAI和Anthropic都提供Batch API，允许把大量请求异步批量处理（24小时内完成），价格是实时API的50%。对于不需要实时响应的任务（数据标注、内容生成、离线分析），Batch API是成本减半的最简单方式。
策略四：提示词压缩
长提示词消耗大量token。压缩策略：删除冗余说明和例子（保留最核心的1-2个例子）；把重复的指令合并为单一简洁指令；用更精确的词替代冗长描述（”提取JSON格式的实体”比”请帮我把文中的实体信息提取出来，用JSON格式输出，包含name、type字段”更省tokens）。经验数据：提示词压缩通常可以减少20-40%的token消耗，且对输出质量影响有限。
策略五：输出长度控制
在提示词中明确指定输出格式和长度上限：”用3-5个要点回答，每个要点不超过30字”。避免让AI无边界生成内容。同时设置API的max_tokens参数为实际需要的上限，防止意外超长输出消耗大量token。
策略六：本地/开源模型替代
对于高频轻量任务（分类、短摘要、关键词提取），本地部署小型开源模型（Llama 3.1 8B、Qwen 3 7B）的边际成本接近零。租用GPU服务器（H100，约€3/小时）自部署，对日调用量超过50万次的任务，通常6个月回本。
策略七：智能缓存（Semantic Cache）
相似问题复用答案——当用户问题与历史问题语义相近（通过向量相似度判断），直接返回缓存的历史答案，不重新调用LLM。Semantic Cache工具（Redis + pgvector）可以为高重复度的问答应用节省40-60%的API调用次数。
