如果你不了解定价模型，AI API成本在生产中可能出乎意料地高。以下是构建具有成本效益的AI应用程序需要了解的令牌经济知识。
什么是令牌以及如何计算
AI语言模型将文本处理为令牌——英语中大约4个字符或¾个单词。100万令牌≈75万字≈1500页文本。所有LLM API按每百万令牌定价，分为输入令牌（你发送的提示词）和输出令牌（模型的响应）。输出令牌通常比输入令牌贵3到5倍。2025年定价示例：Claude Sonnet 4.6是3美元/百万输入令牌和15美元/百万输出令牌；GPT-4o是2.50美元/百万输入和10美元/百万输出。含义：最小化输出长度，因为它是任何LLM交互中最昂贵的部分。
成本计算
处理每天1,000个查询的RAG聊天机器人的简单成本计算：系统提示词：500令牌×1,000 = 50万输入令牌/天；RAG上下文（检索的文档）：2,000令牌×1,000 = 200万输入令牌/天；用户查询：50令牌×1,000 = 5万输入令牌/天；总输入：约255万令牌/天 = 按Claude Sonnet定价7.65美元/天；输出（响应）：300令牌×1,000 = 30万输出令牌/天 = 4.50美元/天；每日总成本：约12.15美元 = 约365美元/月。对于每天10,000个查询的生产系统：约3,650美元/月——显著但可预知且直接随使用量扩展。
成本优化策略
提示词缓存：Anthropic的提示词缓存将重复系统提示词和共享上下文的输入令牌成本降低90%（缓存命中成本0.30美元/百万vs 3美元/百万）。如果你的系统提示词是恒定的，缓存立即回收成本。分层模型选择：对更简单的分类和路由任务使用更便宜、更快的模型（GPT-4o Mini 0.15美元/百万输入，或Claude Haiku 0.25美元/百万），为复杂生成保留更昂贵的模型。输出长度控制：提示词中的明确约束（”在100字以内回复”）直接降低成本。批量处理：Anthropic和OpenAI为非实时工作负载（夜间报告生成、批量数据处理）提供批量API，折扣50%。
成本何时成为问题
两个常见的成本惊喜：递归代理循环（持续为复杂任务调用自身的代理在没有令牌预算或循环限制的情况下可以在几分钟内产生数百美元的费用）和大型文档处理（如果用户可以上传文档，上下文窗口中的200页PDF每次查询都很昂贵）。缓解措施：在代理代码中设置最大令牌预算，按用户实现速率限制，使用RAG检索相关块而不是在提示词中包含整个文档，以及在日志记录中监控每个请求的成本。成本监控工具：LangSmith（用于LangChain应用）、Helicone（提供商无关的API代理，带成本追踪）以及OpenAI和Anthropic的原生成本仪表板。
