TECHNOLOGY
Red teaming
Red teaming: en kort översikt över kopplingen till Tillförlitlig AI, bedömningspunkter och villkor som behöver bekräftas.
1 av 1: Red teaming
Tillförlitlig AI
Red teaming
Red teaming: en kort översikt över kopplingen till Tillförlitlig AI, bedömningspunkter och villkor som behöver bekräftas.
Tillämpningsområde
För Red teaming fastställs tillämpningsområdet utifrån syfte och begränsningar, och villkor för att inte använda lösningen klargörs i förväg. Kopplingen till Tillförlitlig AI bevaras och skälen för bedömningar kan kontrolleras.
Designbeslut
För Red teaming låses modell eller plattform inte i förväg. Data, anslutningar och övervakning hålls åtskilda så att skälen för valet bevaras. Kopplingen till Tillförlitlig AI bevaras och skälen för bedömningar kan kontrolleras.
Valideringsmetod
För Red teaming förbereds reproducerbara indata och kriterier, och beteendet kontrolleras tillsammans med exempel på fel. Kopplingen till Tillförlitlig AI bevaras och skälen för bedömningar kan kontrolleras.
Kontroll under drift
För Red teaming följs ändringshistorik, kvalitetsförändringar och användning, och en nödvändig väg för återställning upprättas. Kopplingen till Tillförlitlig AI bevaras och skälen för bedömningar kan kontrolleras.
Mänsklig bedömning
För Red teaming överlåts viktiga beslut inte enbart till automatisering; ansvariga personer och kontrollpunkter utformas i förväg. Kopplingen till Tillförlitlig AI bevaras och skälen för bedömningar kan kontrolleras.