Ein KI-Agent, der im Test beeindruckt, kann in Produktion eine böse Rechnung verursachen. Der Grund ist simpel: Was im Demo-Modus ein paar Cent kostet, multipliziert sich bei Tausenden Durchläufen pro Monat. Viele Projekte scheitern nicht an der Technik, sondern an einer Kostenschätzung, die nie gemacht wurde. Dieser Artikel zeigt, wie man die Betriebskosten eines Agenten realistisch kalkuliert, wo die versteckten Posten liegen und wie man den ROI ehrlich bewertet.
Warum Agenten teurer sind als Chats
Bei einem einfachen Chat zahlt man für einen Hin- und einen Rückweg: Eingabe rein, Antwort raus. Ein Agent dagegen durchläuft eine Schleife. Jeder Durchlauf schickt den gesamten bisherigen Verlauf erneut an das Modell, denn das Modell hat kein eingebautes Gedächtnis – der Kontext wird bei jedem Schritt komplett neu übergeben. Bei einer Aufgabe mit zehn Schritten wird der Anfangskontext also bis zu zehnmal mitbezahlt. Dieser kumulative Effekt ist der Hauptgrund, warum Agenten überraschend teuer werden.
Dazu kommen die Rückgaben der Werkzeuge. Liefert eine Websuche oder eine API große Datenmengen, landen diese im Kontext und treiben die Eingabe-Token in jedem folgenden Schritt nach oben. Ein Agent, der unbedacht riesige Dokumente einliest, kann pro Aufgabe ein Vielfaches dessen kosten, was die eigentliche Antwort wert ist.
Die Token-Rechnung verstehen
API-Preise werden pro Million Token angegeben, getrennt für Eingabe und Ausgabe – wobei Ausgabe-Token meist deutlich teurer sind. Für eine Schätzung braucht man vier Größen: die durchschnittliche Zahl der Schritte pro Aufgabe, die Token pro Schritt (Eingabe und Ausgabe), die Zahl der Aufgaben pro Monat und die Modellpreise. Aus diesen lässt sich der Monatsbetrag herleiten. Wer das nicht von Hand rechnen will, nutzt den Multi-Step-Kostenrechner für KI-Agenten, der genau diese mehrstufige Logik abbildet.
Ein häufiger Aha-Moment dabei: Der Output-Anteil dominiert oft die Kosten, obwohl die Ausgaben kürzer sind als die Eingaben – weil Output-Token pro Stück teurer abgerechnet werden. Wer Kosten senken will, kürzt deshalb oft besser die Ausgaben als die Eingaben.
Versteckte Kostenposten
Die reinen API-Token sind nur ein Teil der Wahrheit. Zur ehrlichen Gesamtrechnung gehören:
- Fehlversuche: Agenten, die in Sackgassen laufen und neu starten, verbrauchen Token ohne Ergebnis.
- Retries: Automatische Wiederholungen bei API-Fehlern zählen mit.
- Embedding- und Speicherkosten: Nutzt der Agent eine Vektordatenbank, kommen Indexierung und Abfragen dazu.
- Entwicklung und Wartung: Der größte Posten in der Anfangsphase ist oft nicht die API, sondern die menschliche Arbeitszeit für Bau und Pflege.
Wer nur die Token rechnet, unterschätzt die Gesamtkosten regelmäßig um ein Vielfaches.
Wie man Kosten konkret senkt
Es gibt wirksame Hebel. Der stärkste ist Prompt-Caching: Bleibt ein großer Teil des Kontexts über mehrere Aufrufe gleich – etwa die Systemanweisung und die Werkzeugbeschreibungen –, lässt sich dieser Teil zwischenspeichern und wird bei Folgeaufrufen viel günstiger abgerechnet. Gerade bei Agenten, die denselben Anfangskontext zigmal wiederholen, ist die Ersparnis erheblich. Mit dem Rechner zur Prompt-Caching-Ersparnis lässt sich abschätzen, wie viel ein konstanter Kontextanteil tatsächlich spart.
Weitere Hebel: ein kleineres, günstigeres Modell für einfache Teilschritte einsetzen und nur für die schweren Schritte das teure Modell rufen; die Werkzeugausgaben auf das Nötige kürzen; ein hartes Schrittlimit setzen, damit kein Agent endlos weiterläuft; und Aufgaben, wo möglich, im Batch statt einzeln verarbeiten.
Eine Beispielrechnung zum Greifen
Zahlen machen das Problem anschaulich. Nehmen wir einen Agenten, der pro Aufgabe im Schnitt acht Modellschritte braucht. Der Anfangskontext – Systemanweisung, Werkzeugbeschreibungen, Aufgabenstellung – umfasst grob 4.000 Token. Weil dieser Kontext bei jedem der acht Schritte erneut mitgeschickt wird, summieren sich allein daraus rund 32.000 Eingabe-Token pro Aufgabe, bevor die eigentlichen Zwischenergebnisse und Werkzeugausgaben dazukommen. Bei tausend Aufgaben pro Monat reden wir schnell über zweistellige Millionen Token allein an Eingabe.
Genau hier zeigt sich, warum die naive Schätzung „eine Anfrage, ein paar Cent" so oft danebenliegt. Die Multiplikation aus Schritten, wiederholtem Kontext und Volumen ist der eigentliche Kostentreiber. Wer diese drei Faktoren einzeln auf den Tisch legt und mit den aktuellen Modellpreisen verrechnet, bekommt eine belastbare Zahl statt einer Bauchschätzung – und erkennt sofort, an welchem der drei Hebel sich Sparen am meisten lohnt.
Den ROI ehrlich bewerten
Am Ende zählt nicht der Token-Preis, sondern ob sich der Agent rechnet. Die Rechnung ist einfach: Was kostet die Aufgabe, wenn ein Mensch sie macht, und was kostet sie mit dem Agenten – inklusive aller versteckten Posten? Erst wenn die Differenz die Entwicklungs- und Wartungskosten über einen sinnvollen Zeitraum übersteigt, lohnt sich der Einsatz. Dabei sollte man auch die weichen Faktoren nennen: schnellere Bearbeitung, weniger Fehler, Entlastung von Routine. Diese sind real, aber schwer zu beziffern – man sollte sie ausweisen, nicht in die Hauptrechnung schmuggeln.
Ein praktischer Rat: Rechne mit dem teuersten plausiblen Szenario, nicht mit dem Demo-Fall. Ein Agent, der sich erst bei optimistischen Annahmen lohnt, ist ein Risiko. Weitere Rechner und Hintergrundartikel zu KI-Kosten gibt es in den Webtools und der News-Sektion.
Häufige Fragen
Warum kostet ein Agent mehr als ein normaler Chat?
Weil bei jedem Schritt der gesamte bisherige Verlauf erneut an das Modell geschickt wird. Bei einer Aufgabe mit vielen Schritten zahlt man den Anfangskontext mehrfach, dazu kommen die oft umfangreichen Werkzeugausgaben.
Was ist der wirksamste Hebel, um Kosten zu senken?
Meist Prompt-Caching für den konstanten Kontextanteil, kombiniert mit dem Einsatz kleinerer Modelle für einfache Teilschritte und gekürzten Werkzeugausgaben. Auch ein hartes Schrittlimit schützt vor Ausreißern.
Sind die API-Token der größte Kostenfaktor?
In der Anfangsphase oft nicht. Da dominiert die menschliche Entwicklungs- und Wartungszeit. Im laufenden Betrieb mit hohem Volumen werden die Token dann zum bestimmenden Posten.
Wie berechne ich, ob sich ein Agent lohnt?
Indem man die Kosten der manuellen Bearbeitung den Gesamtkosten des Agenten – API, Speicher, Fehlversuche, Wartung – gegenüberstellt. Erst wenn die Ersparnis die Investition über einen sinnvollen Zeitraum übersteigt, ist der Einsatz wirtschaftlich.