TECHNOLOGY
Red teaming
Stručně představujeme téma „Red teaming“, jeho vztah k oblasti „Důvěryhodná AI“, hlediska posouzení a podmínky, které je třeba potvrdit.
1 z 1: Red teaming
Důvěryhodná AI
Red teaming
Stručně představujeme téma „Red teaming“, jeho vztah k oblasti „Důvěryhodná AI“, hlediska posouzení a podmínky, které je třeba potvrdit.
Rozsah použití
V části „Red teaming“ určujeme rozsah použití podle cíle a omezení a předem uvádíme také podmínky, za nichž se řešení nepoužije. Zachováváme vazbu na oblast „Důvěryhodná AI“, aby bylo možné ověřit důvody rozhodnutí.
Návrhová rozhodnutí
V části „Red teaming“ se nevážeme na jediný model ani základnu; oddělujeme data, připojení a monitorování a dokumentujeme důvody volby. Zachováváme vazbu na oblast „Důvěryhodná AI“, aby bylo možné ověřit důvody rozhodnutí.
Metody ověřování
V části „Red teaming“ připravujeme opakovatelné vstupy a kritéria a chování ověřujeme i na příkladech selhání. Zachováváme vazbu na oblast „Důvěryhodná AI“, aby bylo možné ověřit důvody rozhodnutí.
Kontrola za provozu
V části „Red teaming“ sledujeme historii změn, vývoj kvality a způsob používání a zajišťujeme potřebnou cestu návratu. Zachováváme vazbu na oblast „Důvěryhodná AI“, aby bylo možné ověřit důvody rozhodnutí.
Rozhodování lidí
V části „Red teaming“ nesvěřujeme důležitá rozhodnutí pouze automatizaci; určujeme odpovědné osoby a kontrolní body. Zachováváme vazbu na oblast „Důvěryhodná AI“, aby bylo možné ověřit důvody rozhodnutí.