Wer LLMs über eine API in Produkte einbaut, erlebt manchmal eine böse Überraschung auf der Monatsrechnung. Die gute Nachricht: LLM-Kosten sind sehr vorhersagbar und mit den richtigen Hebeln deutlich senkbar, oft um die Hälfte oder mehr, ohne dass die Qualität leidet. Voraussetzung ist, dass man versteht, wofür man eigentlich zahlt. Dieser Beitrag zerlegt die Kostenstruktur und zeigt die wirksamsten Stellschrauben.
Wofür du wirklich zahlst
LLM-APIs rechnen pro Token ab, fast immer getrennt nach Eingabe und Ausgabe. Der entscheidende und oft übersehene Punkt: Output-Token sind in der Regel ein Mehrfaches teurer als Input-Token, häufig im Verhältnis von etwa eins zu vier oder eins zu fünf. Das hat einen technischen Grund. Eingabe wird in einem Durchgang verarbeitet, während die Ausgabe Token für Token einzeln erzeugt wird, was deutlich mehr Rechenzeit kostet.
Daraus folgt die wichtigste Faustregel zur Kostenkontrolle: Lange Antworten sind teuer. Wer Antwortlängen begrenzt und nur das Nötige erzeugen lässt, spart an der teuersten Stelle. Um ein Gefühl für die eigene Rechnung zu bekommen, hilft der LLM-API-Kosten-Rechner: Er zeigt aus Anfragezahl, Eingabe- und Ausgabelänge sofort den Monatsbetrag und wie viel davon auf die Ausgabe entfällt.
Hebel 1: Das richtige Modell
Der größte Hebel ist die Modellwahl. Zwischen dem kleinsten und dem größten Modell einer Familie liegen oft Preisunterschiede um den Faktor zehn oder mehr. Viele Aufgaben, die routinemäßig an das teure Spitzenmodell gehen, würde ein günstigeres Modell genauso gut lösen. Wer einfache Aufgaben konsequent an kleine Modelle gibt und das teure nur für wirklich schwierige Fälle reserviert, senkt die Kosten am stärksten.
Hebel 2: Prompt-Caching
Viele Anwendungen schicken bei jeder Anfrage denselben langen Vorspann mit: eine ausführliche System-Anweisung, Beispiele, ein Regelwerk, ein Referenzdokument. Prompt-Caching erlaubt es, diesen wiederkehrenden Teil zwischenzuspeichern, sodass er nicht jedes Mal voll berechnet werden muss. Bei Anwendungen mit großem, gleichbleibendem Vorspann lassen sich so erhebliche Anteile der Input-Kosten einsparen. Wie groß die Ersparnis ausfällt, hängt davon ab, wie groß der wiederholte Anteil ist; der Prompt-Caching-Ersparnis-Rechner macht das greifbar.
Hebel 3: Batch-Verarbeitung
Nicht jede Aufgabe muss in Echtzeit beantwortet werden. Für Aufgaben, die Zeit haben, etwa nächtliche Auswertungen oder die Verarbeitung großer Datenmengen, bieten viele Anbieter einen Batch-Modus mit deutlichem Rabatt. Man reicht viele Anfragen gebündelt ein und holt die Ergebnisse später ab. Für asynchrone Verarbeitung ist das eine der einfachsten Möglichkeiten, ohne Qualitätsverlust zu sparen.
Weitere praktische Stellschrauben
- Prompts kürzen: Jedes überflüssige Wort im Vorspann kostet bei jeder Anfrage. Knappe, präzise Anweisungen sparen dauerhaft.
- Antwortlänge begrenzen: Ein gesetztes Limit verhindert ausufernde, teure Ausgaben.
- Strukturierte Ausgabe: Wenn du nur ein Feld brauchst, lass nicht einen ganzen Aufsatz erzeugen.
- Wiederholungen vermeiden: Identische Anfragen lassen sich auf Anwendungsebene zwischenspeichern, statt sie erneut zu bezahlen.
- Mengengerüst überwachen: Regelmäßiges Monitoring der tatsächlichen Token-Mengen deckt teure Ausreißer auf.
Ergänzend lohnt der Blick auf den Token-Schätzer für Text, um die Token-Last typischer Eingaben realistisch einzuschätzen. Weitere Beiträge zu Tokens und Modellwahl sammeln wir in den News, alle Rechner liegen in den Webtools.
Versteckte Kostentreiber
Einige Posten tauchen auf der Rechnung auf, ohne dass man sie auf dem Schirm hatte. Der wichtigste ist der Gesprächsverlauf in Chat-Anwendungen: Bei jeder neuen Nachricht wird der gesamte bisherige Verlauf erneut als Eingabe mitgeschickt und damit erneut bezahlt. Eine lange Unterhaltung kann so unbemerkt zu einer der teuersten Komponenten werden. Abhilfe schaffen das Zusammenfassen älterer Nachrichten und ein bewusster Neustart bei Themenwechseln.
Ein zweiter unterschätzter Treiber sind Reasoning-Modelle. Sie erzeugen vor der eigentlichen Antwort eine oft lange interne Denkkette, deren Token in der Regel wie Ausgabe-Token abgerechnet werden. Eine kurze sichtbare Antwort kann also eine teure, unsichtbare Denkphase verbergen. Drittens summieren sich Wiederholungsversuche: Wer bei Fehlern automatisch neu anfragt, zahlt jeden Versuch. Eine durchdachte Fehlerbehandlung mit Begrenzung der Versuche schützt vor solchen Kostenexplosionen.
Vom Schätzwert zum echten Monitoring
Eine Vorabkalkulation ist wertvoll, ersetzt aber nicht die Beobachtung im Betrieb. Sinnvoll ist es, die tatsächlichen Token-Mengen pro Anfragetyp mitzuloggen und regelmäßig auszuwerten. So findet man die teuersten Anwendungsfälle und kann gezielt optimieren, statt pauschal zu sparen. Oft entfällt ein überraschend großer Teil der Kosten auf wenige, besonders lange oder häufige Anfragen. Wer diese identifiziert und gezielt verschlankt, etwa durch kürzere Prompts, ein kleineres Modell oder Caching, erzielt mit wenig Aufwand die größte Wirkung. Die Faustregel lautet: erst messen, dann optimieren, nicht umgekehrt.
Häufige Fragen
Warum ist die Ausgabe teurer als die Eingabe?
Weil die Ausgabe Token für Token nacheinander erzeugt wird, was rechenintensiver ist als das einmalige Einlesen der Eingabe. Deshalb sind kürzere Antworten der wirksamste Sparhebel.
Lohnt sich Prompt-Caching immer?
Es lohnt sich vor allem dann, wenn ein großer Teil des Prompts bei vielen Anfragen identisch bleibt, etwa ein langes Regelwerk oder Referenzdokument. Bei stark wechselnden, kurzen Prompts ist der Effekt klein.
Wie genau kann ich die Kosten im Voraus planen?
Recht genau, weil die Abrechnung pro Token erfolgt. Mit einem realistischen Mengengerüst aus Anfragezahl und durchschnittlichen Längen lässt sich der Monatsbetrag gut überschlagen. Echte Token-Zahlen aus einem Testlauf erhöhen die Treffsicherheit.
Sind die Token-Preise in Euro oder Dollar?
Viele Anbieter weisen ihre Preise in US-Dollar pro eine Million Token aus. Für eine Eurokalkulation sollte man den aktuellen Wechselkurs einrechnen, was die meisten Rechner berücksichtigen.