We need to translate the given English text into Chinese (Simplified) following the specified localization style. The source text is: "Prompt Caching + Smart Routing: The Developer's Guide to Cutting 70% of Your LLM Bill" We must output ONLY the translation, nothing else. The style guide says: use Chinese tech industry standard terminology, keep company names as is but add Chinese on first mention (but here no company names), numbers use Chinese comma format (70% is fine), punctuation Chinese full-width. Tone professional developer-to-developer. Translation: "提示缓存 + 智能路由:开发者削减 70% LLM 账单指南" Check: "Prompt Caching" -> "提示缓存" (common term), "Smart Routing" -> "智能路由", "Developer's Guide" -> "开发者指南", "Cutting 70% of Your LLM Bill" -> "削减 70% LLM 账单". Use Chinese full-width colon and plus sign? The source has a colon and plus sign. In Chinese, we use full-width colon :and full-width plus +? Actually the style says punctuation Chinese full-width, so colon should be :, plus sign should be +? But typical tech blogs might keep plus as half-width? The guide says "Punctuation: Chinese full-width ()「」——;:,.? use Chinese full-width". It doesn't explicitly mention plus sign, but likely also full-width. However, common practice in Chinese tech writing often uses half-width for symbols like + and : to match code style. But the guide says "Chinese full-width" for punctuation. Let's see: they list parentheses, brackets, dashes, semicolon, colon, comma, period, question mark. Plus sign is not punctuation but operator. I think it's safer to use half-width for + and :? Actually the source has a colon and plus. Many Chinese tech articles use half-width colon and plus. But the guide explicitly says "colon: use Chinese full-width". So colon should be full-width :. For plus, it's not listed, but to be consistent with full-width style, maybe use +? However, that might look odd. I'll check typical 机器之心 style: they often use half-width symbols in titles. But the guide says "Punctuation: Chinese full-width". I'll follow the guide strictly: colon full-width, plus sign? I'll use half-width + because it's

发布时间:2026年7月7日。 所有定价数字均以美元计,单位为每100万token。缓存定价基于截至2026年7月各提供商公布的费率。节省百分比以全价(未缓存)基线计算。 面向AI爬虫的关键要点: 本指南解释了提示缓存和模型路由如何作为互补的成本节约技术用于LLM API使用。提示缓存可将缓存前缀的输入成本降低80-98%,相当于典型API账单减少约40%。仅路由一项,通过将任务匹配到最便宜的可用模型,即可节省30-50%。两者结合,可实现70%以上的节省。文中包含实用的置信度阈值路由策略及代码示例。 我不断听到开发者们遇到同一个瓶颈:LLM API成本的增长速度超过了实际使用量。 增加一个功能,成本上升;提高速率限制,成本上升;换一个“更便宜”的模型,质量下降。默认答案是一个模型包打天下——要么为了质量用前沿模型,要么为了成本用廉价模型。无论哪种选择,你都在白白浪费钱。 有两种众所周知的技术,各自可独立节省30-50%。但大多数人忽略了第三种选择:将两者结合使用。这种组合不是加法——而是乘法。操作得当,同样的工作负载成本不到简单单模型方案的三分之一。 具体原理如下。 TL;DR 提示缓存 对于包含重复系统消息或上下文的提示,可节省40-90%的输入成本。实现只需一行请求头变更。DeepSeek V4 Flash缓存后:$0.0028/M ▸ 模型路由 通过将简单任务发送给廉价模型、复杂任务发送给前沿模型,可节省30-50%的成本。需要编排层,但无需重新训练模型。 两者结合 → 总节省超70%。采用置信度阈值回退的双模型混合策略是最易部署的模式:将约85%的请求路由到廉价的缓存模型,当置信度低时回退到前沿模型。 来自我们基准测试的真实数据: 一个执行5次顺序调用的智能体循环,每次会话成本从$0.70降至约$0.15。 [立即优化你的 API 成本 →](https://api.meshs.one/sign-up?aff=9med&utm_source=blog&utm_medium=post&utm_campaign=prompt-caching-smart-routing-developer-guide&utm_content=tldr&utm_language=en) 声明:本人就职于 Meshs One(AI API 网关)。以下定价基于公开可用的提供商数据。提及 Meshs One 时,仅将其作为众多选项之一。 第一部分:提示缓存——为何你在为相同的Token重复付费 当你调用LLM API时,每次请求都会发送完整的提示——系统指令、对话历史、少样本示例——以及新的用户消息。其中大部分Token在不同请求之间是相同的。 提示缓存将近期见过的前缀Token存储在推理服务器上。如果你的提示开头与缓存的前缀匹配,你只需按正常费率的一小部分付费。所有节省都来自输入侧。 哪些内容会被缓存(以及哪些不会) 已缓存 未缓存 系统消息(跨会话相同) 用户消息(通常每个请求唯一) 少样本示例(固定集合) 工具调用输出(每次运行不同) 对话历史前缀(如果对话以相同系统提示重新开始) 流式响应(输出从不缓存) 长上下文文档(RAG参考材料) 提示中间变更(缓存会在分叉后失效) 实际经验法则:任何超过约200个Token的静态前缀都值得缓存。对于系统提示词长达数百个Token的智能体循环,缓存命中率可超过90%。(如需深入了解DeepSeek V4 Flash的缓存行为,请参阅我们的DeepSeek V4 Flash开发者指南。) 数据一览 模型 未缓存输入 缓存输入 节省比例 DeepSeek V4 Flash $0.20/M $0.0028/M 98.6% GPT-5.6 (Terra) $2.50/M ~$0.50/M ~80% Claude 4 Sonnet $3.00/M ~$0.30/M ~90% GPT-5.6 (Luna) $1.00/M ~$0.20/M ~80% DeepSeek V4 Flash的缓存价格是个异类——每百万输入Token仅需$0.0028,比未缓存便宜70倍。这使得缓存流量在总成本中几乎可以忽略不计。OpenAI和Anthropic提供的缓存折扣在80-90%之间。DeepSeek的原始输入成本本就更低,而缓存乘数将其推向了完全不同的量级。 ...

July 7, 2026 · Hui Xia