TECHNOLOGY

Red teaming

Pour « Red teaming », le champ d’application est défini à partir des objectifs et des contraintes, et les conditions dans lesquelles la solution ne doit pas être utilisée sont précisées dès le départ. Aucun modèle ni aucune infrastructure ne sont imposés : les données, les connexions et la supervision sont séparées, et les raisons des choix sont consignées.

Lire le contenu

1 sur 1: Red teaming

AI digne de confiance

Red teaming

Pour « Red teaming », le champ d’application est défini à partir des objectifs et des contraintes, et les conditions dans lesquelles la solution ne doit pas être utilisée sont précisées dès le départ. Aucun modèle ni aucune infrastructure ne sont imposés : les données, les connexions et la supervision sont séparées, et les raisons des choix sont consignées.

Champ d’application

Pour « Red teaming », le champ d’application est défini à partir des objectifs et des contraintes, et les conditions dans lesquelles la solution ne doit pas être utilisée sont précisées dès le départ.

  1. Décisions de conception
  2. Méthode de vérification
  3. Contrôles en exploitation
  4. Décision humaine
  5. Pages associées

Décisions de conception

Pour « Red teaming », aucun modèle ni aucune infrastructure ne sont imposés : les données, les connexions et la supervision sont séparées, et les raisons des choix sont consignées.

Méthode de vérification

Pour « Red teaming », des entrées et des critères reproductibles sont préparés afin de vérifier le comportement, y compris dans les cas d’échec.

Contrôles en exploitation

Pour « Red teaming », l’historique des modifications, l’évolution de la qualité et les usages sont suivis, avec un mécanisme de retour en arrière lorsque nécessaire.

Décision humaine

Pour « Red teaming », les décisions importantes ne sont pas confiées à la seule automatisation : des responsables et des points de contrôle sont définis.

Pages associées