Drei Subagents, drei identische System-Prompts: Hermes lässt sie jetzt einen Cache teilen

Du öffnest das Usage-Dashboard, und der gestrige Tag hat mehr als das Doppelte des Üblichen gekostet. Die Arbeit war gewöhnlich: Du hast Hermes gebeten, drei Subagents über drei Dokumente zu verteilen. Die Aufgaben waren verschieden, aber ein großer Teil des System-Prompts jedes Kindes war Byte für Byte identisch — die Kern-Instruktionen, der Skills-Index, die Tool-Definitionen. Auf der Rechnung wurde dieser gemeinsame Block dreimal geschrieben.
Nichts war falsch konfiguriert. Die Cache-Breakpoints lagen schlicht an den falschen Stellen. Zwei am 12. November gemergte PRs (#153385 und #153275) beheben das: Sibling-Subagents teilen sich jetzt ein Cache-Prefix.
Wofür Prompt-Caching dir tatsächlich etwas berechnet
Die meisten Modell-Provider machen dasselbe. Wenn die ersten N Bytes dieser Anfrage exakt mit einer früheren Anfrage übereinstimmen, wird dieser Abschnitt als Cache-Read abgerechnet — ein Bruchteil des normalen Input-Preises. Beim ersten Auftreten wird er als Cache-Write abgerechnet, etwas teurer als normaler Input.
Eine einzige Einschränkung entscheidet alles: Das Prefix muss Byte für Byte passen. Setz mittendrin einen Satz ein, und alles dahinter zählt nicht mehr als Hit.
Hermes baute den System-Prompt eines Kindes aus drei Teilen zusammen, in dieser Reihenfolge: der Kerntext, der Rest des Session-Prompts (Skills-Index, Footer) und der aufgabenspezifische Text, den delegate_task zur API-Zeit anhängt. Darin saßen zwei Breakpoints — einer nach dem Kerntext, einer ganz am Ende. Der Haken: Der aufgabenspezifische Text unterscheidet sich bei fast jedem Kind, also deckte der zweite Breakpoint Bytes ab, die kein Geschwister teilte. Jedes Kind las Tools und Kerntext aus dem Cache und schrieb dann den Skills-Index neu, der bei allen identisch war.
Änderung eins: Die Aufgabe wandert in den ersten User-Turn des Kindes
Das ist der strukturelle Fix. Der System-Prompt eines Kindes enthält jetzt nur noch, was Geschwister wirklich teilen: die Subagent-Zeile, den Workspace-Path, die Projekt-Kontextdateien (AGENTS.md / CLAUDE.md) und die Completion-Instruktionen.
Die Aufgabe selbst — der vom Parent gelieferte Kontext plus das Ziel — wird zum ersten User-Turn des Kindes, Kontext zuerst:
CONTEXT:
<background material from the parent>
TASK:
<the specific job>
Die Reihenfolge ist Absicht. Ein Parent gibt oft dasselbe Briefing an mehrere Kinder und variiert nur das Ziel; den Kontext voranzustellen und als stabiles Prefix der Message zu registrieren gibt ihm einen eigenen Cache-Breakpoint — den Teil, den jedes Geschwister trifft. Ein Detail zählt noch: Dieser erste Turn ist jetzt über die Compaction hinweg festgenagelt (ContextCompressor.pin_task_turn). Vorher hörte der Compressor nach seinem ersten Durchlauf auf, frühe Turns zu schützen, sodass ein gesteuertes Kind sein Briefing beim zweiten verlieren konnte.
Änderung zwei: Ein Cache-Scope für die Kinder eines Parents
Der zweite Miss war subtiler. Bei Modellen der OpenAI-Familie greift automatisches Caching nur innerhalb des Cache-Scope, den der Client mitschickt; im Codex-Backend ist der Scope buchstäblich der Request-Header session_id. Jedes Kind schickte bisher seine eigene Session-ID, also teilten selbst byte-identische Prompts nichts.
Jetzt teilen sich alle Kinder eines Parents einen Scope, der vom Scope des Parents abgeleitet ist:
sub_<sha256(parent_scope)[:24]>
Er setzt den prompt_cache_key und ersetzt im Codex-Backend den session_id-Header des Kindes. Bewusst ist es nicht der Scope des Parents: Ein Delegation-Baum fügt einen Cache-Bucket hinzu, statt in den seines Parents einzusteigen. Slot-keyed Routen (xAI) ignorieren das und verhalten sich wie bisher.
Änderung drei: Den Skills-Index-Breakpoint einen Slot nach vorn schieben
Das dritte Stück (#153275) repariert das andere Ende — den Session-Prompt selbst. Eine Session mit angehängtem Text schickt ihren System-Prompt jetzt in drei Teilen: statische Stufe, Rest des Session-Prompts, angehängter Text.
Eine Anfrage hat nur eine begrenzte Zahl an Breakpoints (vier bei den meisten Providern). Ein erster Call hat nur eine Message zu markieren, also einen übrig — und dieser Übrige wird jetzt am Ende des Session-Prompts verbraucht, genau dort, wo der Skills-Index endet. Jedes spätere Geschwister liest diese Kopie, statt sie zu schreiben.
Die Zahlen, bei einer Bibliothek mit 147 Skills, für ein Kind, dessen Aufgabentext sich von dem seines Geschwisters unterscheidet:
| Metrik | Vorher | Nachher |
|---|---|---|
| Cache-Read beim ersten Call | 16,214 Tokens | 22,154 Tokens |
| Cache-Write beim ersten Call | 10,781 Tokens | 4,839 Tokens |
| Gespart pro solchem Kind | — | 5,940 Tokens geschrieben |
Echte delegate_task-Kinder, erster Call, Kontext abweichend von einem Geschwister:
| Route, Modell | Vorher: Read des Prompts | Nachher: Read des Prompts |
|---|---|---|
Nous, gpt-5.6-luna |
0 von 7,622 | 7,574 von 7,627 |
Codex-Abo, gpt-5.6-luna |
0 von 7,631 | 7,424 von 7,631 |
Nous, claude-fable-5.2 |
6,354 von 11,904 | 11,761 von 11,909 |
Die letzte Zeile ist die interessante: Claude-Kinder teilten bisher etwa die Hälfte ihres Prompts. Jetzt teilen sie fast alles, weil kein aufgabenspezifischer Text mehr im System-Prompt sitzt und das Prefix abschneidet.
Was du tun musst: gar nichts
Kein neuer Config-Key, kein Flag. Es ist eine Path-Optimierung, kein Feature-Toggle:
- Upgrade über diese beiden PRs hinaus, und paralleler
delegate_task-Fan-out profitiert automatisch. - Der Gewinn skaliert mit zwei Dingen: wie groß deine Skills-Bibliothek ist (längerer Index) und wie viele Kinder du gleichzeitig startest (mehr Reads desselben Prefix).
- Das Verschieben des Briefings in den ersten User-Turn gilt für jede Session, die zur API-Zeit Text anhängt, nicht nur für Subagents: eine CLI- oder Gateway-Personality, API-Server-Instruktionen — derselbe Path.
- Unberührt: das Direct-Anthropic-Layout, das einen Breakpoint im Tools-Array verbraucht.
Wenn du Tokens zählst, lies das zusammen mit zwei verwandten Posts: context token optimisation behandelt, wie viel Historie die Compression überlebt, während multi-profile cache sharing das andere Scope-Problem beschreibt — zweimal zahlen nach einem Gateway-Restart, statt dass Geschwister denselben Block neu schreiben. Beide tauchen auf derselben Rechnung auf.
Release-Status
Beide PRs sind am 12. November 2026 in main gemergt. v0.23.1 erschien am 10. November — zwei Tage früher —, also ist es in diesem Release nicht enthalten. Entweder auf das nächste warten oder von main installieren. Ob deine Installation es hat, prüfst du so: Starte zwei Kinder mit unterschiedlichem Aufgabentext und schau beim ersten Call auf Cache-Read- versus Write-Zahlen.
Update (17.11.2026): Diese Änderungen sind mit v0.23.2 (16. November) erschienen – ein
hermes updatebringt sie. Die Formulierung „nicht in v0.23.1“ oben ist eine Momentaufnahme vom Veröffentlichungstag.
Wenn du schon Remote-Subagent-Orchestrierung fährst, kombiniere das mit live subagent orchestration und subagent failure wake, damit Geld sparen und keine Ergebnisse verlieren zusammen erledigt sind.