Die Ergänzung vom 20. Oktober ist eine Mindestlebensdauer auf der Responses API. Sie ist keine Löschuhr. Fehlt prompt_cache_options.ttl, gilt 30m, berechnet mit dem 1,25-Fachen des normalen Eingabepreises. 12h schreibt mit dem 2,5-Fachen. Das sind Gesamtpreise der Schreibvorgänge, kein Aufschlag auf die normale Eingabe. Lesen kostet bei beiden Dauern dasselbe: 0,1× bei den meisten Modellen ab GPT-5.6, 0,05× bei GPT-6.1 Sol. Die Rechnung steht in cached_tokens, ttl_30m_tokens und ttl_12h_tokens. cache_write_tokens ist bereits die Summe der letzten beiden.
Dieser Text steht auf dem 21. Oktober 2026, nach dem Changelog vom Vortag und dem Prompt-Caching-Leitfaden. Der Changelog nennt v1/responses. Gestern ging es darum, welches Feld die Antwort trägt. Hier gilt dieselbe Regel für die Abrechnung.
Was der 20. Oktober wirklich brachte
Das Changelog sagt, 12-Stunden-Prompt-Caching sei jetzt in der API wählbar. Der Leitfaden legt den Schalter auf prompt_cache_options.ttl in der Responses API, für GPT-5.6 und später.
| ttl | Mindestzeit | Schreibrate | Wofür der Leitfaden sie nennt |
|---|---|---|---|
30m, Standard wenn weggelassen | 30 Minuten | 1,25× normale Eingabe | Gespräche und nahe Agentenschritte |
12h | 12 Stunden | 2,5× normale Eingabe | Anweisungen und Referenzmaterial über längere Pausen |
OpenAI darf einen Eintrag länger behalten. 12h setzt keinen Löschzeitpunkt und ändert nicht die Obergrenze der Aufbewahrung. Es garantiert auch keinen KV-Treffer und keine niedrigere Latenz. Nicht unterstützte Werte liefern 400 invalid_request_error. prompt_cache_retention älterer Modelle bleibt unverändert. In der Vergleichstabelle nutzt GPT-5.5 nur 24h und hat keinen extra Schreibaufschlag.
Welche API 12h annimmt
Die Vergleichstabelle schreibt die 12 Stunden in die Responses API. Das ttl der Anfrage gilt für den impliziten Bruchpunkt und für explizite Bruchpunkte ohne eigenes ttl. Ein expliziter Bruchpunkt überschreibt es mit prompt_cache_breakpoint.ttl. Fehlen beide, gilt 30m.
Die Referenz zum Anlegen einer Chat Completion listet prompt_cache_options.ttl weiter nur als 30m. Der Leitfaden bietet 12h nicht auf chat/completions. Modellaufrufe der Agents API folgen dem Caching der Responses API. Das Changelog vom 20. Oktober nennt v1/responses.
Eine Anfrage schreibt höchstens vier Bruchpunkte. Der implizite Modus belegt einen Platz, drei bleiben für explizite. Mit mode explicit und ohne expliziten Bruchpunkt gibt es kein Prompt-Caching. Ab GPT-5.6 braucht ein cachebares Präfix mindestens 1.024 sichtbare Eingabetoken. Versteckter OpenAI-Inhalt zählt nicht. Ältere Modelle runden gemeldete cached_tokens auf ein Vielfaches von 128 ab. Ab GPT-5.6 wird die genaue Grenze gemeldet, ohne versteckte Token.
Zwei Laufzeiten in einer Anfrage
Ein Bruchpunkt deckt das gesamte Präfix davor. In einer Anfrage wird jedes Token einmal berechnet, mit der längsten Laufzeit der ausgewählten Schreibvorgänge, die es decken. Ein späterer 12-Stunden-Schreibvorgang gibt früheren Bruchpunkten in diesem Präfix ebenfalls 12-Stunden-Deckung. Die vier Zeilen des Leitfadens:
| Cache vorher | Gewählte Bruchpunkte | Lesen | 30-Minuten-Schreiben | 12-Stunden-Schreiben |
|---|---|---|---|---|
| Keiner | 12h bei 2.000, dann 30m bei 5.000 | 0 | 3.000 | 2.000 |
| Keiner | 30m bei 2.000, dann 12h bei 5.000 | 0 | 0 | 5.000 |
| Gültige 30 Minuten bis 2.000 | 12h bei 5.000 | 0 | 0 | 5.000 |
| Gültige 12 Stunden bis 2.000 | 30m bei 5.000 | 2.000 | 3.000 | 0 |
Gültige 30-Minuten-Deckung auf 12 Stunden anzuheben schreibt diese Token neu zum 12-Stunden-Satz, ohne Gutschrift für den früheren Schreibvorgang. Was schon in einem gültigen 12-Stunden-Eintrag liegt, bleibt Lesen. Ein 30-Minuten-Lesen frischt die Deckung auf mindestens 30 Minuten nach diesem Lesen auf. Nutzt es einen gültigen 12-Stunden-Eintrag, bleibt das spätere von bisherigem Ablauf und 30 Minuten nach dem Lesen. Die 12-Stunden-Uhr startet nicht neu, und es gibt keine weitere Schreibgebühr.
Wie die usage-Zahlen addiert werden
Bei Responses-Modellen mit prompt_cache_options stehen die Schreibvorgänge in cache_write_tokens_details. ttl_30m_tokens und ttl_12h_tokens überlappen nicht und ergeben cache_write_tokens. Beide Felder kommen zurück, eines darf 0 sein. cached_tokens zählt nur als Lesen berechnete Token, nicht als Schreiben berechnete, auch keine Hochstufung von 30 Minuten auf 12 Stunden.
{
"usage": {
"input_tokens": 12000,
"input_tokens_details": {
"cached_tokens": 4000,
"cache_write_tokens": 7000,
"cache_write_tokens_details": {
"ttl_30m_tokens": 3000,
"ttl_12h_tokens": 4000
}
}
}
}
Normale Eingabe ist 12000 - 4000 - 7000 = 1000. Kosten: normale Eingabe mal Eingabepreis, cached_tokens mal Cache-Lesepreis, ttl_30m_tokens mal 1,25× Eingabepreis, ttl_12h_tokens mal 2,5× Eingabepreis, geteilt durch 1.000.000. Der Leitfaden rechnet bei 1 Dollar je Million Eingabe und 0,10 Dollar Cache-Lesen 0,01515 Dollar. GPT-6.1 Sol liest mit 0,05×, nicht mit den 0,1× dieses Beispiels. Dieselben Tokenzahlen zum 0,05-fachen Lesesatz sind nicht weiter 0,01515 Dollar.
Ein Fehltreffer ist oft ein geändertes Präfix
Der Cache speichert KV-Tensoren, nicht die Original-Token. Das gerenderte Präfix muss ganz übereinstimmen. Der Leitfaden nennt model, tools, parallel_tool_calls, text.format (strukturierte Ausgabe hängt Format und Schema an), reasoning.effort, text.verbosity und context_management, wenn es früheren Text ersetzt. Ein geändertes Schema passt ab dieser Stelle nicht mehr.
Einträge liegen auf einzelnen Maschinen. Über 15 Anfragen pro Minute kann Verkehr auf eine Maschine ohne den Eintrag laufen. Caches gelten nicht über Organisationen oder regionale Verarbeitungsgrenzen hinweg. Ab GPT-5.6 routet OpenAI selbst. prompt_cache_key optimiert Treffer dort nicht mehr, trennt aber die Abrechnung je Kunde. Die Migrationsnotiz ersetzt prompt_cache_retention durch prompt_cache_options.ttl.
Diesen usage-Satz behalten
Von einem Aufruf mindestens diese Felder behalten:
{
"api": "responses",
"model": "gpt-6.1-sol",
"request_ttl": "30m",
"input_tokens": 12000,
"cached_tokens": 4000,
"cache_write_tokens": 7000,
"ttl_30m_tokens": 3000,
"ttl_12h_tokens": 4000,
"ordinary_input_tokens": 1000
}
ordinary_input_tokens muss Eingabe minus Lesen minus Schreiben sein. Die zwei ttl-Felder müssen wieder cache_write_tokens ergeben. Sonst wurde eine Hochstufung als Lesen gezählt oder cache_write_tokens ein zweites Mal addiert.
- JSON-Validator — Felder prüfen, dann die Summe der zwei ttl-Zähler.
- JSON Diff — zwei usage-Objekte: 12-Stunden-Schreiben oder normale Eingabe.
- JSONPath — Antworten mit
ttl_12h_tokensüber null.
FAQ
Kann Chat Completions ttl auf 12h setzen?
Der Leitfaden legt 12h auf die Responses API. Die Referenz zum Anlegen einer Chat Completion nennt für ttl weiterhin nur 30m. Das Changelog vom 20. Oktober nennt v1/responses.
Wird der Eintrag nach 12 Stunden gelöscht?
Nein. Es ist eine Mindestzeit. OpenAI darf länger behalten. Es gibt keinen Löschzeitpunkt, keine Änderung der Aufbewahrungsobergrenze und keine Garantie für den nächsten Treffer oder geringere Latenz.
Ist das 2,5-Fache ein Aufschlag auf die normale Eingabe?
Nein. Der Leitfaden nennt den Gesamtschreibpreis. Ein Token mit 12-Stunden-Schreiben wird nicht noch einmal als normale Eingabe berechnet. Normale Eingabe ist input_tokens minus cached_tokens minus cache_write_tokens.
Wird ein bezahlter 30-Minuten-Schreibvorgang bei der Hochstufung gutgeschrieben?
Nein. Gültige 30-Minuten-Deckung, die auf 12 Stunden steigt, wird zum 12-Stunden-Satz neu geschrieben. Token in einem gültigen 12-Stunden-Eintrag bleiben Lesen.
Muss cache_write_tokens in der Summe noch einmal dazu?
Nein. Es ist ttl_30m_tokens plus ttl_12h_tokens. Die beiden Teile mit 1,25× und 2,5× multiplizieren. cache_write_tokens noch einmal dazu zählt das Schreiben doppelt.
Heißt cached_tokens über null, dass der Aufruf schneller war?
Der Leitfaden sagt, die Mindestzeit entscheide über den Lesepreis. Sie garantiert nicht, dass jede Anfrage KV auf einer Maschine wiederverwendet, und nicht eine niedrigere Latenz. Über 15 Anfragen pro Minute kann Verkehr eine Maschine ohne den Eintrag treffen.
Fazit
Die Änderung vom 20. Oktober ist eine Mindestzeit auf der Responses API. 30 Minuten schreiben mit 1,25×, 12 Stunden mit 2,5×, Lesen bleibt bei 0,1× oder 0,05× auf Sol. usage trennt die Schreibvorgänge in zwei ttl-Felder. cache_write_tokens obendrauf zählt das Schreiben doppelt.
Schema, Werkzeugdefinition und Modellname ändern das Präfix. Im Satz API responses, das gesendete ttl und die vier usage-Zahlen behalten.