TECHNOLOGY

Red teaming

Red teaming: en kort oversikt over sammenhengen med Pålitelig AI, vurderingspunkter og forhold som må bekreftes.

Vis hovedinnholdet

1 av 1: Red teaming

Pålitelig AI

Red teaming

Red teaming: en kort oversikt over sammenhengen med Pålitelig AI, vurderingspunkter og forhold som må bekreftes.

Bruksområde

For Red teaming fastsettes bruksområdet ut fra formål og begrensninger, og vilkår for ikke å bruke løsningen avklares på forhånd. Sammenhengen med Pålitelig AI bevares, og grunnlaget for vurderinger kan kontrolleres.

  1. Designbeslutninger
  2. Valideringsmetode
  3. Kontroll under drift
  4. Menneskelig vurdering
  5. Relaterte sider

Designbeslutninger

For Red teaming låses ikke modell eller plattform på forhånd. Data, forbindelser og overvåking holdes atskilt slik at begrunnelsen for valget bevares. Sammenhengen med Pålitelig AI bevares, og grunnlaget for vurderinger kan kontrolleres.

Valideringsmetode

For Red teaming forberedes reproduserbare inndata og kriterier, og virkemåten kontrolleres sammen med eksempler på feil. Sammenhengen med Pålitelig AI bevares, og grunnlaget for vurderinger kan kontrolleres.

Kontroll under drift

For Red teaming følges endringshistorikk, kvalitetsendringer og bruk, og en nødvendig vei for tilbakerulling etableres. Sammenhengen med Pålitelig AI bevares, og grunnlaget for vurderinger kan kontrolleres.

Menneskelig vurdering

For Red teaming overlates ikke viktige beslutninger til automatisering alene; ansvarlige personer og kontrollpunkter utformes på forhånd. Sammenhengen med Pålitelig AI bevares, og grunnlaget for vurderinger kan kontrolleres.

Relaterte sider