TECHNOLOGY
Red teaming
Cette page présente brièvement « Red teaming », son lien avec « AI digne de confiance », les points à étudier et les conditions à vérifier.
1 sur 1: Red teaming
AI digne de confiance
Red teaming
Cette page présente brièvement « Red teaming », son lien avec « AI digne de confiance », les points à étudier et les conditions à vérifier.
Champ d’application
Pour « Red teaming », le champ d’application est défini à partir des objectifs et des contraintes, et les conditions dans lesquelles la solution ne doit pas être utilisée sont précisées dès le départ. Le lien avec « AI digne de confiance » est préservé et les motifs des décisions restent vérifiables.
Décisions de conception
Pour « Red teaming », aucun modèle ni aucune infrastructure ne sont imposés : les données, les connexions et la supervision sont séparées, et les raisons des choix sont consignées. Le lien avec « AI digne de confiance » est préservé et les motifs des décisions restent vérifiables.
Méthode de vérification
Pour « Red teaming », des entrées et des critères reproductibles sont préparés afin de vérifier le comportement, y compris dans les cas d’échec. Le lien avec « AI digne de confiance » est préservé et les motifs des décisions restent vérifiables.
Contrôles en exploitation
Pour « Red teaming », l’historique des modifications, l’évolution de la qualité et les usages sont suivis, avec un mécanisme de retour en arrière lorsque nécessaire. Le lien avec « AI digne de confiance » est préservé et les motifs des décisions restent vérifiables.
Décision humaine
Pour « Red teaming », les décisions importantes ne sont pas confiées à la seule automatisation : des responsables et des points de contrôle sont définis. Le lien avec « AI digne de confiance » est préservé et les motifs des décisions restent vérifiables.