TECHNOLOGY

Red teaming

Red teaming: en kort oversigt over relationen til Pålidelig AI, vurderingspunkter og betingelser, der skal bekræftes.

Se hovedindhold

1 af 1: Red teaming

Pålidelig AI

Red teaming

Red teaming: en kort oversigt over relationen til Pålidelig AI, vurderingspunkter og betingelser, der skal bekræftes.

Anvendelsesområde

For Red teaming fastlægges anvendelsesområdet ud fra formål og begrænsninger, og betingelser for ikke at bruge løsningen præciseres på forhånd. Forbindelsen til Pålidelig AI bevares, og begrundelsen for vurderinger kan kontrolleres.

  1. Designbeslutninger
  2. Valideringsmetode
  3. Kontrol under drift
  4. Menneskelig vurdering
  5. Relaterede sider

Designbeslutninger

For Red teaming låses model eller platform ikke på forhånd. Data, forbindelser og overvågning holdes adskilt, så begrundelsen for valget bevares. Forbindelsen til Pålidelig AI bevares, og begrundelsen for vurderinger kan kontrolleres.

Valideringsmetode

For Red teaming forberedes reproducerbare input og kriterier, og adfærden kontrolleres sammen med eksempler på fejl. Forbindelsen til Pålidelig AI bevares, og begrundelsen for vurderinger kan kontrolleres.

Kontrol under drift

For Red teaming følges ændringshistorik, ændringer i kvalitet og brugsmønstre, og der oprettes en nødvendig vej til tilbagerulning. Forbindelsen til Pålidelig AI bevares, og begrundelsen for vurderinger kan kontrolleres.

Menneskelig vurdering

For Red teaming overlades vigtige beslutninger ikke alene til automatisering; ansvarlige personer og kontrolpunkter udformes på forhånd. Forbindelsen til Pålidelig AI bevares, og begrundelsen for vurderinger kan kontrolleres.

Relaterede sider