Beantwortet von Matthias Hinsche Stand
Drei Posten, die in Angeboten oft zu einem verrührt werden. Getrennt betrachtet lassen sie sich steuern.
1. Modellkosten
Abgerechnet wird pro verarbeitetem Text, gemessen in Tokens. Eingabe und Ausgabe werden getrennt berechnet, Ausgabe kostet ein Vielfaches der Eingabe.
Für die Einordnung: Ein Klassifikationsprozess mit einigen tausend kurzen Anfragen im Monat liegt bei einem kleinen Modell im einstelligen Eurobereich. Ein Chatbot mit langen Gesprächen und großem Kontext kann dreistellig werden. Ein Prozess, der täglich zehntausende Dokumente verarbeitet, liegt darüber.
Die konkreten Preise ändern sich mehrmals im Jahr und gehören frisch von der Preisseite des Anbieters in die Kalkulation.
2. Plattform- und Werkzeugkosten
Automatisierungsplattform, Vektordatenbank, Monitoring. Bei einem mittelgroßen Setup zusammen im niedrigen dreistelligen Bereich pro Monat.
3. Pflege
Der Posten, der am häufigsten fehlt und am meisten kostet. Eine Wissensbasis, die nicht nachgezogen wird, liefert nach einem halben Jahr falsche Auskünfte. Realistisch sind ein bis vier Stunden im Monat, je nach Änderungshäufigkeit.
Die drei wirksamsten Hebel
Das richtige Modell je Aufgabe. Zwischen dem großen Modell eines Anbieters und seiner Mini-Variante liegt beim Preis ein Faktor von zehn bis zwanzig. Für Klassifikation reicht fast immer das kleine.
Caching. Wiederkehrende Kontexte müssen nicht jedes Mal neu bezahlt werden. Details in Was ist Prompt Caching bei KI-APIs?.
Kürzere Eingaben. Wer das komplette Handbuch mitschickt statt der drei relevanten Absätze, zahlt für den Rest mit.
Was du einrichten solltest
Ein Kostenlimit beim Anbieter und eine Benachrichtigung bei Überschreitung. Der teuerste Fall ist eine Schleife, die unbemerkt tausendfach läuft.
Beratung dazu: KI-Implementierung.