Gdzie umieścić akceptację człowieka, gdy agent może zmieniać rekordy biznesowe

Decyduj dla każdego działania, korzystając z istniejących reguł

Większość organizacji ma już zasady uprawnień: kto może zaksięgować fakturę powyżej określonej kwoty, kto może zmienić rachunek bankowy dostawcy, które zmiany wymagają drugiej osoby. Zacznij od nich. Agent nie powinien mieć większych uprawnień niż najmniej doświadczona osoba wykonująca dziś tę samą pracę, a punkty akceptacji powinny przebiegać według tych samych linii.

Potem oznacz punkty bez odwrotu. Wytyczne Microsoftu dotyczące transakcji kompensujących zalecają ustalenie, które kroki da się cofnąć, a których nie, i wykonywanie kroków nieodwracalnych dopiero po przejściu wszystkich krytycznych kontroli. Specyfikacja Model Context Protocol daje podobne zalecenie dla narzędzi: człowiek powinien móc odrzucić wywołanie narzędzia, a klienci powinni prosić o potwierdzenie przy operacjach wrażliwych.

Przykładowa macierz akceptacji

Dla hipotetycznego agenta w dziale zobowiązań poniższa macierz to typowy wynik takiego ćwiczenia. Progi są umowne; twoje wynikają z własnych zasad uprawnień.

• Odczyt faktur, zamówień i przyjęć towaru: bez akceptacji
• Przygotowanie notatki o wstrzymaniu albo zapytania do dostawcy: bez akceptacji, ale wiadomość wysyła człowiek
• Zaksięgowanie w pełni uzgodnionej faktury poniżej progu, na przykład 2000 euro: bez akceptacji, co tydzień sprawdzana jest próbka
• Zaksięgowanie faktury powyżej progu albo z jakimkolwiek odchyleniem: akceptacja pracownika działu zobowiązań
• Zmiana danych podstawowych dostawcy albo rachunku bankowego: w ogóle niedostępna dla agenta

Ostatni wiersz jest ważny. Niektóre działania lepiej usunąć z narzędzi agenta, niż zabezpieczać akceptacją, bo akceptację można udzielić przez pomyłkę, a narzędzia, którego nie ma, nie da się wywołać.

Co musi zobaczyć akceptujący

• Dokładną zmianę: który rekord, które pola, stare i nowe wartości, kwotę
• Dowody, z których skorzystał agent, z odnośnikami do dokumentów źródłowych
• Powód pauzy: regułę, próg albo odchylenie, które ją wywołało
• Co nastąpi po zatwierdzeniu, edycji i odrzuceniu

Zapisz decyzję z tożsamością akceptującego, czasem i wersją propozycji, którą widział. Ten zapis jest dowodem decyzji, gdy ktoś później zapyta, dlaczego płatność wyszła.

Jak pauza działa w kodzie

Frameworki agentowe wspierają to bezpośrednio. W LangGraph interrupt() zapisuje stan grafu przez checkpointer i czeka, aż przebieg zostanie wznowiony przez Command(resume=...). W OpenAI Agents SDK narzędzie oznaczone needs_approval wstrzymuje przebieg i zwraca oczekujące wywołanie jako interruption, a stan przebiegu można zserializować i wznowić po akceptacji albo odrzuceniu.

O tym, czy to bezpieczne, decydują trzy szczegóły. Po pierwsze, LangGraph przy wznowieniu uruchamia przerwany węzeł od początku, więc każdy efekt uboczny umieszczony przed interruptem wykona się ponownie. Po drugie, wykonywane działanie musi być powiązane z zatwierdzonymi argumentami; jeśli agent je zmieni, zapytaj ponownie. Po trzecie, zapisany checkpoint nie sprawia, że zapis w systemie zewnętrznym wykona się dokładnie raz. Jeśli proces padnie po wywołaniu płatności, ale przed zapisaniem wyniku, wznowienie może wysłać ją ponownie, chyba że system odbierający deduplikuje żądanie.

Jak sprawić, by akceptacje nie wstrzymywały pracy

Mierz czas oczekiwania sprawy na akceptację oddzielnie od czasu pracy agenta i przypisz kolejce właściciela oraz cel. Grupuj podobne akceptacje, żeby pracownik mógł zatwierdzić dziesięć uzgodnionych faktur jednego dostawcy w jednym widoku. Ustal, co się dzieje, gdy nikt nie odpowiada: sprawa wraca do kolejki człowieka i nigdy nie jest zatwierdzana domyślnie.

Następnie obserwuj, co robią akceptujący. Kategoria, która przez miesiące prawie zawsze jest zatwierdzana bez zmian, to kandydat do kontroli wyrywkowej, a decyzję podejmuje właściciel procesu na podstawie danych. Kategoria z częstymi poprawkami albo odrzuceniami pokazuje, że agent nie jest na nią gotowy.

Kiedy akceptacja daje złudne poczucie bezpieczeństwa

Akceptacja zawodzi po cichu, gdy akceptujący nie mogą sprawdzić tego, co im pokazano, gdy wolumen zmusza ich do bezrefleksyjnego klikania albo gdy wrażliwe odczyty, na przykład pobranie przez agenta akt pracowniczych, nigdy nie są zabezpieczane, bo nic nie zostało zapisane. Czy decyzja prawnie wymaga człowieka, rozstrzygają twoi prawnicy i, tam gdzie to dotyczy, przedstawicielstwo pracowników. Wkład inżynierów polega na pokazaniu, gdzie decydują ludzie, i przechowywaniu zapisu każdej decyzji.