01 — Pewność nie jest dowodem
Ton modelu nie mówi nic o prawdziwości odpowiedzi.
Doktryna
Dowód, kontrola, odpowiedzialność.
AI nie staje się godne zaufania dlatego, że brzmi pewnie. Staje się użyteczne wtedy, gdy jego twierdzenia można zbadać, działania ograniczyć, a decyzje prześledzić do odpowiedzialnego procesu po stronie człowieka.
Dziewięć zasad dla systemów projektowanych wokół omylności, nie obietnicy nieomylności.
02 — Twierdzenie wymaga pochodzenia
Źródło, zakres, data i transformacje muszą być możliwe do zbadania.
03 — Niepewność powinna być widoczna
System nie powinien ukrywać konfliktów, braków ani niepewności.
04 — Odmowa jest zdolnością
Powstrzymanie się od odpowiedzi lub działania może być oznaką jakości.
05 — Weryfikacja musi być architekturą
Nie może zależeć wyłącznie od dobrego promptu lub czujnego użytkownika.
06 — Zgoda człowieka nie jest przyciskiem
Wymaga kontekstu, kompetencji, czasu i realnej możliwości sprzeciwu.
07 — Pamięć wymaga governance
To, co system zapisuje, wpływa na przyszłe decyzje i potrzebuje pochodzenia oraz właściciela.
08 — Działania wymagają granic
Agent potrzebuje zakresu, uprawnień, limitów i warunków zatrzymania.
09 — Odpowiedzialności nie można delegować modelowi
Model może wspierać, lecz nie usuwa odpowiedzialności organizacji i ludzi.