Kryteria akceptacji systemów AI: kiedy aplikacja LLM jest wystarczająco dobra?

Kryteria jako typy błędów

Klasyczne kryterium akceptacji mówi, jaki jest właściwy wynik. W systemie AI lepiej sprawdza się opis tego, co nie może pójść źle, bo poprawnych odpowiedzi jest wiele, a sposobów na błąd da się policzyć. Typowe kryteria dla asystenta obsługi klienta: podaje błędną cenę, kwotę lub datę; przeczy zasadzie z dokumentu źródłowego; odpowiada na pytanie spoza swojego zakresu zamiast odmówić; pomija prośbę o rozmowę z człowiekiem; ujawnia dane innego klienta.

Znajdź te typy błędów, czytając najpierw prawdziwe wyniki albo wyniki z pilotażu razem z ekspertem dziedzinowym. Shreya Shankar i współautorzy zauważyli, że ludzie doprecyzowują kryteria w trakcie oceniania wyników, i nazwali to criteria drift. Przeczytaj więc próbkę, ustal kryteria na podstawie tego, co znalazłeś, i zamroź je przed testem akceptacyjnym.

Analiza błędów aplikacji LLM

Waga i próg ustalone przed testami

Każdemu typowi błędu nadaj wagę i wymagany odsetek zaliczeń. Przewodnik Starter Kit urzędu IMDA do testowania aplikacji LLM mówi, że każda organizacja musi sama określić swoje progi i powinna ustalić je przed testami, z progiem zerowym dla rażących szkód. Ustalenie ich na początku sprawia, że nikt nie spiera się o liczby, gdy wyniki są już znane.

Te liczby pokazują format, a nie są rekomendacją. Właściwe wymaganie zależy od tego, ile kosztuje cię błąd, czy człowiek by go wychwycił i jak proces działał przed systemem AI.

Kryterium, które nie dopuszcza żadnego błędu, nie da się udowodnić samymi testami. Bezbłędny przebieg tylko ogranicza odsetek błędów: przy 300 przypadkach bez błędu przedział 95% dla odsetka błędów nadal sięga 1,3%. Kryteria krytyczne potrzebują więc także zabezpieczeń poza modelem, na przykład reguł dostępu, które uniemożliwiają taki błąd.

Mierz każdy odsetek z przedziałem

Odsetek zaliczeń z zestawu testów to oszacowanie. Jeśli przechodzi 90 ze 100 przypadków, prawdziwy odsetek dla tego rodzaju pytań może być wyraźnie niższy albo wyższy. Przedział Wilsona, który dobrze zachowuje się przy małych próbach i odsetkach bliskich 100%, daje dla 90 ze 100 przedział 95% od 82,6% do 94,5%.

Daje to trzy możliwe wyniki dla każdego kryterium. Kryterium jest spełnione, jeśli dolna granica przedziału osiąga wymaganie. Nie jest spełnione, jeśli górna granica leży poniżej. Jeśli wymaganie mieści się w przedziale, test jeszcze nie rozstrzygnął, a więcej przypadków zawęzi przedział. Przy wymaganiu 85% wynik 90 ze 100 jest nierozstrzygnięty; przy dokładnie tym samym odsetku rozstrzygnęłoby go 196 przypadków, a licząc pełne przypadki 180 z 200.

Kalkulator traktuje przypadki jako niezależne. Jeśli kilka przypadków pochodzi z tego samego dokumentu lub rozmowy, prawdziwy przedział jest szerszy, a nasz poradnik o wielkości próby w ewaluacjach pokazuje, jak to uwzględnić.

Wielkość próby w ewaluacjiTestowanie systemów AI

Powtarzane przebiegi i spójność

Uruchamiaj każdy przypadek kilka razy z ustawieniami produkcyjnymi. Przypadek, który przechodzi w jednym przebiegu, a w następnym nie, to nie niestabilny test do usunięcia, tylko informacja, jak często użytkownik zobaczy błąd. Jednostką jest przypadek: pięć przebiegów 100 przypadków to nie 500 niezależnych przypadków.

W systemie, który wykonuje działania, na przykład w agencie zlecającym zwroty, warto rozważyć wymaganie, żeby przechodził każdy przebieg przypadku. W benchmarku τ-bench gpt-4o rozwiązał w pojedynczej próbie około 61% zadań z handlu detalicznego, a we wszystkich ośmiu próbach udało się mniej niż 25%. Wymaganie dotyczące pojedynczego przebiegu by to ukryło.

Kryteria w umowie

Jeśli system buduje agencja albo dostawca, uzgodnij typy błędów, wymagania i sposób pomiaru przed rozpoczęciem budowy, a zestaw testów zatrzymaj po swojej stronie. Dostawca może dostać próbkę do pracy, a przypadki używane przy odbiorze pozostają dla niego nieznane, żeby system nie był dostrojony do konkretnego testu. Przy odbiorze uruchom zestaw przez interfejs, z którego będą korzystać twoi użytkownicy, i dla każdego błędu zapisz wejście, wynik i naruszone kryterium.

Uzgodnij z góry, co dzieje się po wyniku nierozstrzygniętym: zwykle większy przebieg testów albo określony okres używania pod nadzorem, z próbką sprawdzaną ręcznie. Jak formalny odbiór działa prawnie, zależy od rodzaju umowy, więc sprawdź to ze swoim doradcą prawnym. To nie jest porada prawna.