Dienstagmorgen öffnest du die ChatGPT-Nutzungsseite, und der Zähler steht bei 87 % – dabei hast du deinen Agenten diese Woche kaum angefasst: keine nächtlichen Marathon-Läufe, keine riesigen Uploads, nur ein ganz gewöhnlicher Nachmittag voller Chat. Wenn du Hermes über ChatGPT Codex OAuth betreibst (die gpt-5.4-/gpt-5.6-Familie), war der Übeltäter höchstwahrscheinlich ein Context Window, das stillschweigend weit größer eingestellt war, als der Anbieter bewirbt. Je größer das Window, desto mehr Input-Tokens trägt jede Anfrage mit sich – und bei einem Abo sinkt der Zähler entsprechend. Die gute Nachricht: Hermes hat das Standardverhalten am 23. August korrigiert – die Basis-Codex-Slugs sind wieder bei den beworbenen 272K, und das verifizierte 900K-Window ist jetzt ein explizites -900k-Opt-in. Dieser Beitrag erklärt die Mechanik dahinter und die Stellschrauben, an denen du selbst drehen kannst.

Warum ein größeres Context Window dich echtes Geld kosten kann

Zunächst eine kurze Definition: Das Context Window bestimmt, wie viele Tokens ein Modell in einer einzigen Anfrage lesen kann – System-Prompt, Gesprächsverlauf und Tool-Ausgaben zusammen. Ein großes Window bedeutet, dass der Agent sich mehr „merken“ kann, aber der Haken ist: Jeder Turn sendet das gesamte Window erneut, und all diese Input-Tokens gehen auf dein Kontingent.

Bei Pay-per-Token-APIs ist das schlicht eine Rechnung; bei einem ChatGPT-Abo (Plus / Pro), das über Codex OAuth genutzt wird, ist es ein Monatskontingent. Vergrößert man das Window von 272K auf 900K, bläht das die Input-Menge jeder Anfrage um bis zu 3x+ auf – und wer zusätzlich langlebige Sessions am Laufen hält, für den ist ein in Stunden leergesaugtes Kontingent durchaus realistisch. Genau das meldete die Community Mitte August auf Discord: Kontingent verschwindet, obwohl kaum Aktivität zu verzeichnen war.

Hermes hatte das Codex-Context am 16. August automatisch auf 900K angehoben (die Begründung lautete: „wenn es verifiziert ist, nutze es“), wodurch stillschweigend jede Codex-OAuth-Session auf dem großen Window lief. PR #92797, am 23. August gemergt, korrigierte den Kurs: Basis-Slugs fallen standardmäßig auf die beworbenen 272K zurück, und 900K ist striktes Opt-in.

Die -900k-Picker-Varianten: explizit opt-in

Im /model-Picker stehen die Codex-Basismodelle jetzt mit -900k-Suffix als Geschwistermodelle bereit:

• gpt-5.6-sol-900k
• gpt-5.6-terra-900k
• gpt-5.6-luna-900k
• gpt-5.4-900k

Das sind Aliase auf Hermes-Seite: Wählst du gpt-5.6-sol-900k, wird das Suffix entfernt, bevor die Modell-ID über die Leitung geht (das Backend sieht weiterhin gpt-5.6-sol), und die Preisabrechnung zählt es als Basismodell. Du erklärst damit schlicht: „Ich möchte das große Window“ – was sicher ist, weil Hermes im August live verifiziert hat, dass das Codex-Backend trotz beworbener 272K bei Abo-Konten tatsächlich rund 911K Input-Tokens akzeptiert.

Eine Einschränkung: Nicht jedes Codex-Modell bekommt eine -900k-Variante. Slugs, die wirklich 272K durchsetzen – gpt-5.5 und gpt-5.4-mini – haben gar keine Variante. Ob ein Slug berechtigt ist, entscheidet die live verifizierte Liste in agent/model_metadata.py (_CODEX_900K_ELIGIBLE_BASES); nur diese Modelle erhalten im Picker synthetisierte Varianten.

Compaction folgt dem Window

Das Context Window begrenzt nicht nur, wie viel du in eine Session packen kannst – es entscheidet auch, wann Hermes kompaktiert (alte History wird zusammengefasst, um Platz zu schaffen). Der Auslöser ist compression.threshold, standardmäßig 50 % des Windows.

Hier greift ein subtiles Zusammenspiel: Bei 50 % würde ein 272K-Window schon bei ~136K kompaktieren – die halbe Kapazität bliebe ungenutzt. Deshalb hebt Hermes bei Codex-OAuth-Routen mit den Basis-Slugs gpt-5.4 / 5.5 / 5.6 den Schwellwert automatisch auf 85 % an (~231K) – das sogenannte Autoraise.

Die -900k-Varianten funktionieren umgekehrt: Bei 50 % von 900K (~450K) kommt die Compaction schon spät genug, ein Autoraise ist also unnötig. PR #92848, am selben Tag gemergt, setzt genau das durch: -900k-Varianten nutzen immer den globalen compression.threshold, Basis-Slugs behalten das 85-%-Autoraise. Faustregel: Der Compaction-Schwellwert folgt immer dem Window, das du gewählt hast.

Nimm die Kontrolle mit diesen Config-Keys

Wenn die Standardwerte nicht zu deinem Workflow passen, ist das alles konfigurierbar:

# Turn off the 85% autoraise for 272K Codex base slugs (back to the global threshold)
hermes config set compression.codex_gpt55_autoraise false

# Keep the autoraise but hide the one-time banner
hermes config set compression.codex_gpt55_autoraise_notice false

Hinweis: codex_gpt55_autoraise ist ein Legacy-Key-Name – er steuert tatsächlich die gesamte gpt-5.4-/5.5-/5.6-Familie, nicht nur gpt-5.5.

Weitere Stellschrauben, die du kennen solltest:

• compression.threshold: das globale Compaction-Verhältnis (Standard 0.50).
• compression.model_thresholds: Overrides pro Modell – Keys werden per Substring-Matching zugeordnet, der längste Treffer gewinnt. Komprimiere ein Modell mit 1M-Window später ("glm-5.2-1M": 0.25) und eines mit 128K früher ("claude-sonnet": 0.35).
• Small-Window-Untergrenze: Modelle mit Context unter 512K haben eine Untergrenze von 0.75 (nur Anhebung), sodass die Compaction nie auslöst, solange noch die Hälfte des Windows frei ist.
• compression.proactive_prune_tokens: Bei Modellen mit großem Window feuert der 50-%-Trigger selten, sodass alte Tool-Ausgaben in der History mitfahren und bei jedem Turn erneut gesendet werden. Mit einem Wert (z. B. 48000) holst du sie früh zurück und sparst Tokens.
• Für volle manuelle Kontrolle über das Window eines Modells nutzt du das Feld context_window in model_overrides – das haben wir in einer ausführlichen Konfigurationsanleitung behandelt.

Das Fazit

Ein größeres Context Window ist nicht gratis – es ist eine Rechnung, die du bei jedem einzelnen Turn zahlst. Die Lehre aus dieser Codex-Episode: Standardwerte sollten konservativ sein, und das große Window gehört nur denen, die wirklich lange Dokumente und lange Verläufe brauchen. Praktisch heißt das: Behalte die Basis-Slugs (272K) für den Alltag, greif im /model-Picker nur dann zu einer -900k-Variante, wenn du tatsächlich mit langen Dokumenten arbeitest, und stimm die Compaction-Keys oben auf deinen eigenen Rhythmus ab. Ein Hinweis vorweg: Diese Änderungen liegen auf main (am 23. August gemergt, nach dem v0.20.5-Tag), hol sie dir also mit hermes update – und der Fuzzy-Filter im /model-Picker gehört zur jüngsten Runde von CLI-Verbesserungen, mit der sich -900k-Varianten deutlich schneller finden lassen. Weitere alltagstaugliche Token-Spartipps findest du in unserer Produktivitäts-Tipps-Übersicht.