Was ein KI-Workflow kostet, wenn Prüfung und Nacharbeit mitzählen

Warum der Token-Preis eine engere Frage beantwortet

Die FinOps Foundation beschreibt, dass Unit Economics für KI meist mit Kosten pro Token beginnen und sich zu ergebnisbezogenen Größen wie Kosten pro Agentenaktion oder pro abgewendetem Fall weiterentwickeln. Der Token-Preis ist eine Ressourcenkennzahl. Er sagt einem Engineer, ob ein Entwurf effizient ist, aber nicht, ob der Prozess günstiger geworden ist.

Selbst die Modellkosten sind schwerer vorherzusagen, als eine Preisliste vermuten lässt. Ein Fall kann mehrere Aufrufe, Wiederholungen und langen Kontext brauchen, und ein Agent kann in Schleifen laufen. Das AWS Generative AI Lens empfiehlt Abbruchbedingungen für lang laufende Agenten-Workflows, damit sich die maximalen Kosten eines Laufs vorhersagen lassen. Auch Preise bewegen sich, und das KI-Papier der FinOps Foundation weist darauf hin, dass sie sich in beide Richtungen stark ändern können.

Die Posten der Kosten pro bearbeitetem Fall

• Modellnutzung für jeden Schritt eines Falls, einschließlich Wiederholungen.
• Ein Anteil der Plattform: Hosting, Retrieval, Logging und Monitoring.
• Prüfzeit: Minuten pro geprüftem Fall mal Anteil der geprüften Fälle mal voll belasteter Stundensatz der prüfenden Person.
• Eskalationen: Fälle, die an Menschen zurückgehen und wie heute bearbeitet werden.
• Korrekturen: Fehler, die nach Abschluss gefunden werden, einschließlich der Mehrarbeit, die sie weiter hinten im Prozess verursachen.
• Fixkosten: der Aufbau, verteilt über einen vereinbarten Zeitraum, plus Pflege, Evaluierungsläufe und Modellwechsel.

Teilen Sie durch erledigte Fälle, nicht durch begonnene. Ein eskalierter Fall ist trotzdem ein bearbeiteter Fall, aber seine Kosten sind die manuellen Kosten plus das, was das System vor der Übergabe verbraucht hat.

Ein Rechenbeispiel mit seinen Annahmen

Jede Zahl unten ist hypothetisch und so gewählt, dass sich leicht rechnen lässt. Angenommen werden 10.000 Serviceanfragen pro Monat. Heute dauert jede 12 Minuten bei voll belasteten Kosten von 48 Euro pro Stunde, also 9,60 Euro pro Fall und 96.000 Euro im Monat.

• Modell und Plattform: 0,30 Euro pro Fall, insgesamt 3.000 Euro.
• Das System erledigt 80 Prozent der Fälle, jeder wird in 2 Minuten geprüft: 8.000 mal 1,60 Euro, also 12.800 Euro.
• 20 Prozent werden eskaliert und manuell bearbeitet: 2.000 mal 9,60 Euro, also 19.200 Euro.
• 3 Prozent der erledigten Fälle brauchen später eine Korrektur von 20 Minuten: 240 mal 16 Euro, also 3.840 Euro.
• Fix: ein Aufbau für 120.000 Euro, verteilt auf 24 Monate, plus 4.000 Euro monatliche Pflege, also 9.000 Euro.

Die Summe beträgt 47.840 Euro, also 4,78 Euro pro bearbeitetem Fall gegenüber 9,60 Euro heute. Modell und Plattform machen davon etwa 6 Prozent aus. In diesem Beispiel stehen Prüfung und Eskalationen zusammen für etwa zwei Drittel der Kosten.

Welche Annahmen das Ergebnis bewegen

Ändern Sie jeweils eine Annahme. Steigt die Eskalationsquote von 20 auf 35 Prozent, steigen die Kosten pro Fall von 4,78 auf 5,91 Euro. Dauert die Prüfung 4 statt 2 Minuten, sind es 6,06 Euro. Halbierte Modell- und Plattformkosten senken den Wert nur auf 4,63 Euro. In einem Entwurf wie diesem entscheiden gemessene Prüfminuten und Eskalationsquoten über den Business Case. Bei einem Agenten mit hohem Volumen, langen Schleifen und wenig Prüfung können dagegen die Modellkosten dominieren. Rechnen Sie deshalb für Ihren eigenen Entwurf.

Die Zahlen während des Piloten erheben

Die FinOps Foundation nennt Instrumentierung während der Entwicklung den günstigsten frühen Schritt: Ressourcen taggen und einen Nutzungszähler ausgeben, damit der Nenner später existiert. Für einen Prozess heißt das: jeden Modellaufruf mit einer Fall-ID versehen, festhalten, wann eine prüfende Person einen Fall öffnet und schließt, jede Eskalation und Korrektur mit Grund protokollieren und Fixkosten aus den Verträgen übernehmen. Führen Sie die Zahl als Trend für einen Prozess, statt sie mit fremden Teams zu vergleichen.

Entwürfe mit derselben Formel vergleichen

Rechnen Sie den heutigen Prozess, ein gekauftes Produkt, einen Eigenbau und einen einfacheren regelbasierten Workflow mit derselben Formel. Jede Einsparung bleibt bedingt, bis der Pilot Eskalations-, Prüf- und Korrekturquoten an echten Fällen gemessen hat. Nutzen, der keine Kosten betrifft, etwa schnellere Bearbeitung, gehört neben die Zahl und nicht in sie hinein. Wenn wir Prozessagenten bauen, berichten wir diese Zahl pro bearbeitetem Fall in Euro, neben dem Anteil eskalierter Fälle und dem Anteil, bei dem der Agent falsch lag.

Budget für die Menschen, die KI-Arbeit prüfenWas ein KI-Pilot belegen muss