Wie viel menschliche Prüfung Sie vor der Automatisierung einplanen sollten

Prüfung ist eine Personalfrage

Der automatisierte Teil eines Prozesses skaliert mit Rechenleistung. Die Menschen, die seine Ergebnisse prüfen, nicht. Budgetiert niemand ihre Zeit, taucht die Prüfung als Rückstau in irgendeinem Postfach auf, Fälle warten, und die Bearbeitungszeit, die das Projekt rechtfertigen sollte, ist dahin. Das NIST AI Risk Management Framework verlangt, dass Prozesse für menschliche Aufsicht definiert, bewertet und dokumentiert sind. Praktisch heißt das: Namen, Stunden und eine Queue, für die jemand verantwortlich ist.

Drei Wege, auf denen Fälle zur Prüfung gelangen

• Jeder Fall. Üblich am Anfang und dauerhaft bei Handlungen, die Ihre Richtlinien einer Person vorbehalten, etwa die Freigabe einer Zahlung.
• Fälle, die einen Auslöser treffen: geringe Modellkonfidenz, ein Betrag über einer Grenze, eine fehlgeschlagene Regelprüfung oder ein Agent, der anhält und nachfragt. Anthropics Artikel über Agenten aus dem Jahr 2024 beschreibt Pausen an Kontrollpunkten für menschliches Feedback oder wenn der Agent auf ein Hindernis stößt.
• Eine Zufallsstichprobe aus dem Rest. Der Dienst Amazon Augmented AI, inzwischen für Neukunden geschlossen, war um genau diese Kombination aus Prüfung bei geringer Konfidenz und Zufallsstichprobe gebaut, und das Muster lohnt sich in jedem Stack. Die Stichprobe zeigt Ihnen die Fehlerquote der Fälle, die sonst niemand angesehen hat.

Ein Kapazitätsbogen für einen hypothetischen Prozess

Die Zahlen sind Annahmen zur Veranschaulichung. Ersetzen Sie jede durch das, was Ihr Pilot misst.

1. 1

   Volumen

   2.000 Fälle pro Woche, davon 30 Prozent am Montag.

2. 2

   Phase eins: vollständige Prüfung

   Jeder Fall wird in 3 Minuten geprüft: 6.000 Minuten, also 100 Prüfstunden pro Woche.

3. 3

   Phase zwei: Auslöser und Stichprobe

   30 Prozent der Fälle treffen einen Auslöser und dauern 4 Minuten, weil es die schwierigeren sind: 2.400 Minuten. Eine 10-Prozent-Stichprobe der übrigen 1.400 dauert je 2 Minuten: 280 Minuten. Zusammen etwa 45 Stunden pro Woche.

4. 4

   Prüfung der Spitze

   An einem Montag in Phase zwei ergeben 600 Fälle etwa 13 Prüfstunden. Hat eine prüfende Person 6 produktive Stunden am Tag für diese Arbeit, braucht der Montag mindestens drei Personen, sonst schiebt sich die Queue in den Dienstag.

Aus dem Bogen folgen zwei Dinge. Phase eins braucht mehr als doppelt so viele Stunden wie Phase zwei, also sollte das Pilotbudget nicht mit der Besetzung von Phase zwei rechnen. Und die Zahl für Phase zwei hängt stark von der Auslöserquote ab. Treffen 45 statt 30 Prozent der Fälle einen Auslöser, braucht dieselbe Woche etwa 64 statt 45 Prüfstunden. Messen Sie die Auslöserquote an echten Fällen, bevor Sie die Besetzung festlegen.

Was eine Prüfung zwei statt zehn Minuten dauern lässt

Minuten pro Prüfung sind ein Ergebnis der Gestaltung, keine feste Eigenschaft des Prozesses. Eine prüfende Person ist schnell, wenn das vorgeschlagene Ergebnis mit seinen Belegen kommt, etwa den Quellfeldern, dem Dokumentauszug und der ausgelösten Regel, zusammen mit dem Grund für die Markierung. Annehmen oder Korrigieren sollte eine einzige Aktion im Werkzeug sein, das die Person ohnehin nutzt, und jede Korrektur sollte als strukturierte Daten gespeichert werden. Anthropics Leitfaden zu Evaluierungen empfiehlt, Fehler aus der Produktion in Testaufgaben zu verwandeln, und diese Korrekturen sind die Quelle dafür.

Wann der Prüfanteil sinken darf

Senken Sie ihn jeweils für einen Falltyp, wenn die Zufallsstichprobe ungeprüfter Fälle über einen vereinbarten Zeitraum unter einer vereinbarten Fehlerschwelle geblieben ist. Behalten Sie die Stichprobe danach bei, denn sie ist die einzige Messung der Fälle, die niemand prüft, und erhöhen Sie den Anteil wieder, wenn die Fehlerquote der Stichprobe steigt. Prüfen Sie auch die Prüfenden. Wer Hunderte korrekter Ergebnisse freigibt, kann aufhören, genau hinzusehen. Einige Fälle mit bekannten Fehlern in der Queue zeigen, ob die Prüfung sie noch findet.

Prüfzeit in den Plan aufnehmen

Budgetieren Sie Phase eins mit vollständiger Prüfung und Phase zwei als Spanne statt als Versprechen. Die Stunden gehören zum Prozessteam, nicht zur IT, und die Prüfenden brauchen die Befugnis, ein Ergebnis zu korrigieren, nicht nur freizugeben. In den Agentenprojekten, die wir bauen, beginnt jeder Agent auf der Stufe, auf der eine Person jeden Fall entscheidet, und sein Umfang wächst erst, nachdem wir die Ergebnisse gemeinsam mit Ihnen geprüft haben.

Die Vollkosten eines KI-WorkflowsWie viel ein Agent entscheidet