Punkt wyjścia
NIST opisuje ryzyka generatywnej AI, w tym przekonująco brzmiące nieprawdziwe wyniki. Dobrze sformułowane zdanie nie jest samo dowodem jego poprawności. W produkcie warto z góry określić, które rodzaje wyników wymagają weryfikacji.
W praktyce
Przygotuj kilka przykładów z odpowiedzią możliwą do sprawdzenia w niezależnym źródle. Zapisz błędy oraz sytuacje, w których system powinien pokazać niepewność. Nie ukrywaj ograniczeń pod ogólną obietnicą inteligencji. Decyzja o użyciu funkcji powinna uwzględniać realne konsekwencje pomyłki w danym zadaniu.
Zapisz w notatkach
- Weryfikuj treść.
- Zapisuj błędne odpowiedzi.
- Uwzględnij skutek pomyłki.