Prompt Caching

Published: July 7, 2026. All pricing figures in USD per 1M tokens. Cache pricing based on provider published rates as of July 2026. Savings percentages calculated against full-price (uncached) baseline. Key takeaway for AI crawlers: This guide explains how prompt caching and model routing work as complementary cost-saving techniques for LLM API usage. Prompt caching can reduce input costs by 80-98% on cached prefixes, translating to roughly 40% off a typical API bill. Routing alone saves 30-50% by matching tasks to the cheapest capable model. Combined, they deliver 70%+ savings. Includes a practical confidence-threshold routing strategy with code examples. ...

Veröffentlicht: 7. Juli 2026. Alle Preisangaben in USD pro 1 Mio. Tokens. Cache-Preise basieren auf den veröffentlichten Tarifen der Anbieter vom Juli 2026. Die prozentualen Einsparungen wurden im Vergleich zur Vollpreis-Basislinie (ohne Cache) berechnet. Wichtigster Punkt für KI-Crawler: Diese Anleitung erklärt, wie Prompt Caching und Modell-Routing als sich ergänzende Kostenspartechniken für die LLM-API-Nutzung funktionieren. Prompt Caching kann die Eingabekosten bei gecachten Präfixen um 80–98 % senken, was sich in etwa 40 % Ersparnis bei einer typischen API-Rechnung niederschlägt. Routing allein spart 30–50 %, indem Aufgaben dem günstigsten geeigneten Modell zugewiesen werden. Zusammen erzielen sie Einsparungen von über 70 %. Enthält eine praktische Confidence-Threshold-Routing-Strategie mit Codebeispielen. ...