← Zur Startseite
Forschung / WISE AI

Prompt-Caching: Entscheidend ist die Wiederverwendung, nicht nur der Rabatt

Ein günstigerer Tarif für gecachte Tokens kann teure Schreibvorgänge, verfehlte Präfixe und parallele Anfragen bei kaltem Cache verdecken. Ein praxisnaher Vergleich von OpenAI, Anthropic und DeepSeek mit einer Wirtschaftlichkeitsrechnung und einem Abnahmeplan.

Ein Stapel aus Glas verzweigt sich in unterschiedliche Pfade. Ein verblassender Zweig steht für nicht genutzte Cache-Arbeit.

Eigene, KI-gestützt erstellte Konzeptillustration für SPKE. Die Zweige stehen für Wiederverwendung und Ablauf, nicht für gemessene Leistung.

Am Anfang steht die Arbeitslast

Eine Anwendung stellt zehn Fragen zu demselben Dokument. Der Entwickler sieht einen niedrigen Preis für gecachte Eingabe-Tokens und erwartet eine ähnlich deutliche Senkung der Rechnung. Dabei bleiben die entscheidenden Fragen offen: Wurde das wiederverwendbare Präfix tatsächlich in den Cache geschrieben? Passte jede Anfrage dazu? Und erfolgte die Wiederverwendung, bevor der Eintrag ablief?

Unser Fazit: Verglichen werden sollten die Kosten pro Aufgabe mit akzeptiertem Ergebnis bei realistischem Anfrage-Timing, nicht der höchste beworbene Cache-Rabatt. Diese Analyse stützt sich auf offizielle Dokumentation, die wir am 22. Oktober 2026 geprüft haben, und enthält eine ausdrücklich hypothetische Berechnung. SPKE hat keinen Anbieter-Benchmark durchgeführt. Die nicht datierte Dokumentation wird laufend aktualisiert; das Prüfdatum ist weder ein Veröffentlichungs- oder Ankündigungsdatum noch das Datum, ab dem eine Regelung gilt.

Ein sinnvoller Vergleich zwischen China und den USA

Die US-Anbieter OpenAI und Anthropic sowie der chinesische Anbieter DeepSeek bieten unterschiedliche Steuerungsmöglichkeiten. Das Herkunftsland sagt nicht voraus, welche Konfiguration für eine Anwendung richtig ist. Vergleichen Sie das konkrete Modell, die API, die Cache-Gültigkeitsdauer und die Arbeitslast.

Der aktuelle Leitfaden von OpenAI unterscheidet zwischen GPT-5.6 und späteren Modellen einerseits und früheren Modellen andererseits: Für neuere Modelle gelten erhöhte Tarife für Cache-Schreibvorgänge sowie bestimmte zulässige Grenzen für Cache-Lookups. Die alte pauschale Annahme, dass das Schreiben in den OpenAI-Cache keine zusätzlichen Kosten verursacht, ist nicht mehr verlässlich. OpenAI-Leitfaden

Anthropic nennt unterschiedliche Schreibtarife für fünf Minuten und eine Stunde Cache-Gültigkeitsdauer; die Lesetarife hängen vom Modell ab. Ein einziger, anbieterweit geltender Rabatt reicht deshalb für die Budgetplanung nicht aus. Anthropic-Preise

Das Beispiel von DeepSeek zeigt, dass auf A+B zunächst A+C ohne Cache-Treffer folgt, bevor ein gespeichertes gemeinsames A für A+D genutzt werden kann. Wiederholter Text allein genügt nicht. DeepSeek-Caching

Diese Unterschiede legen eine Beschaffungsfrage nahe, die nützlicher ist als „Welches Land bietet günstigere KI?“: Welche Implementierung nutzt unsere tatsächlichen Anfragen zuverlässig wieder und liefert dabei die benötigte Qualität? Es geht um einen technischen Vergleich, nicht um eine Rangliste nationaler Fähigkeiten.

Ein Rabatt ist noch keine niedrigere Rechnung

Es folgt eine vereinfachte Berechnung, kein Preisangebot. Wir betrachten ausschließlich ein identisches, für Caching geeignetes Präfix. Dabei ist n die Gesamtzahl der Anfragen einschließlich des ersten Schreibvorgangs, w der Preisfaktor für das Schreiben und r der Preisfaktor für das Lesen, jeweils bezogen auf gewöhnliche Eingabe-Tokens. Angenommen werden ein Schreibvorgang und n−1 erfolgreiche vollständige Lesevorgänge, ohne Ablauf oder erneutes Schreiben.

Kosten ohne Cache in normierten Einheiten: n. Kosten mit Cache: w + (n−1) × r. Für 0 ≤ r < 1 ist Caching günstiger, wenn n > (w−r)/(1−r).

Mit den hypothetischen Werten w = 1.25 und r = 0.1 kosten zehn Anfragen 2.15 statt 10 Einheiten. Die Ersparnis für das Präfix beträgt 78.5%, obwohl jeder Lesevorgang um 90% günstiger ist. Bei w = 2 und r = 0.1 sind insgesamt mindestens drei Anfragen nötig, um zu sparen; bei w = 1.25 genügen zwei.

Dies ist eine ideale Wirtschaftlichkeitsschwelle, die nur das Präfix berücksichtigt. Dynamische Eingaben, generierte Ausgaben, Tools, Wiederholungsversuche und mehrfache Schreibvorgänge können das Ergebnis auf Aufgabenebene verändern. Eine Konfiguration, die die Präfixkosten senkt, aber zusätzliche Nacharbeit erfordert, kann insgesamt teurer sein. Ersetzen Sie die hypothetischen Faktoren durch die aktuellen Tarife des konkreten Modells, bevor Sie ein Budget erstellen.

Drei Formen der Wiederverwendung

Erstens: Ein seriell geführtes Gespräch ergänzt einen gespeicherten Verlauf. Zweitens: Unabhängige Fragen gehen von einem gemeinsamen Dokument aus. Drittens: Ein paralleler Batch startet bei kaltem Cache, bevor wiederverwendbare Cache-Inhalte bereitstehen. Dieselbe Menge wiederholter Tokens macht diese Arbeitslasten nicht gleichwertig.

Bei Anthropic steht der Cache erst zur Verfügung, nachdem die erste Antwort begonnen hat; das Fünf-Minuten-Fenster beginnt bereits mit dem Start der Anfrage. Deshalb sind Startzeitpunkte und lange Antworten relevant. Anthropic-Caching

Unsere Empfehlung für das Design: Trennen Sie stabiles Referenzmaterial von wechselnden Fragen, halten Sie die Grenzen konsistent und testen Sie die tatsächliche Abfolge der Anfragen. Fügen Sie vor stabilen Inhalten keine Zeitstempel oder Anfrage-IDs ein, ohne die Auswirkungen zu prüfen. Ergänzen Sie nicht blindlings Aufwärmanfragen: Sie verbrauchen Ressourcen, und möglicherweise stellen die Nutzer die spätere Anfrage nie.

Ein Abnahmeplan vor dem Rollout

Verwenden Sie denselben Aufgabensatz mit festgelegten Qualitätsanforderungen unter vier Bedingungen: Kaltstart, Wiederverwendung bei warmem Cache, realistische Pausen und gleichzeitige Anfragen. Dies ist ein vorgeschlagener Testplan, kein von uns durchgeführtes Experiment.

  1. Erfassen Sie Modell und Version, API, Anfragestruktur, Cache-Einstellungen und Servicestufe. Halten Sie Inhalte und Qualitätskriterien vergleichbar.
  2. Vereinheitlichen Sie die Nutzungsfelder des Anbieters zu gewöhnlichen Eingaben, Cache-Schreibvorgängen und Cache-Lesevorgängen. Prüfen Sie vor dem Addieren, was jedes Feld enthält, und vermeiden Sie Doppelzählungen. Weist ein Anbieter für Eingaben nur Cache-Treffer und Cache-Fehlschläge aus, rechnen Sie keine separate Schreibgebühr hinzu, die nicht ausgewiesen ist.
  3. Ermitteln Sie die Gesamtkosten pro Aufgabe mit akzeptiertem Ergebnis, einschließlich fehlgeschlagener Versuche, Ausgaben und Tools. Weisen Sie auch abgelehnte Ergebnisse aus, damit billigere Fehlschläge die zentrale Kennzahl nicht verbessern können.
  4. Messen Sie die Zeit bis zum ersten Token und die Gesamtlatenz, einschließlich langsamer Fälle, etwa des p95-Werts. Berichten Sie Ergebnisse für kalten und warmen Cache getrennt.
  5. Ändern Sie jeweils nur einen Faktor: Präfixgrenze, Pause oder Parallelität. Bewahren Sie eine Referenzmessung auf und dokumentieren Sie die Ursache fehlender Cache-Treffer.

Was Sie einkaufen sollten und was sich nicht ableiten lässt

Wählen Sie eine Konfiguration, die die Qualitäts- und Latenzanforderungen zu den niedrigsten gemessenen Kosten pro Aufgabe erfüllt. Eine hohe Trefferquote allein ist kein Erfolgskriterium: Ein übermäßig großer, wiederholter Prompt kann diese Quote steigern und zugleich jede Aufgabe unnötig teuer machen.

Für Teams, die chinesische und US-amerikanische APIs vergleichen, liegt der übertragbare Wert in einer reproduzierbaren Arbeitslast und einer einheitlichen Kostenaufstellung. Weder niedrige Preise für gecachte Tokens noch ein Cache-Treffer belegen bessere Antworten. Dieser Artikel liefert eine Entscheidungsmethode, keinen Sieger unter den Anbietern.

Quellen & Prüfung

Hinweise zum Inhalt

Redaktioneller Text

Quellen belegen die zugeordneten Fakten, nicht jede Interpretation. Bitte das ursprüngliche Datum beachten.

  1. OpenAI — Prompt caching (reviewed; undated documentation) 2026-10-22
  2. Anthropic — Pricing (reviewed; undated documentation) 2026-10-22
  3. Anthropic — Prompt caching (reviewed; undated documentation) 2026-10-22
  4. DeepSeek — Context caching (reviewed; undated documentation) 2026-10-22
© WISE AI · Kurze Zitate mit Autor und Quellenlink sind willkommen. Vollständige Übernahme und Massenerfassung erfordern Erlaubnis.

Teilen Sie Ihre Gedanken.

Begründeter Widerspruch und Ergänzungen sind willkommen. Respektieren Sie Menschen, diskutieren Sie Ideen.

Zum Kommentieren und Liken bitte anmelden.

Mitdiskutieren ↗
0 Kommentare