TECHNOLOGY
Pengujian tim merah
Ringkasan ini menguraikan red teaming, hubungannya dengan AI yang dapat dipercaya, hal-hal yang perlu dipertimbangkan, dan ketentuan yang perlu dikonfirmasi.
1 dari 1: Pengujian tim merah
AI yang Dapat Dipercaya
Pengujian tim merah
Ringkasan ini menguraikan red teaming, hubungannya dengan AI yang dapat dipercaya, hal-hal yang perlu dipertimbangkan, dan ketentuan yang perlu dikonfirmasi.
Cakupan penerapan
Dalam red teaming, cakupan penerapan ditentukan dari tujuan dan batasan, sementara kondisi ketika teknologi tidak akan digunakan juga diperjelas sejak awal. Keterkaitannya dengan AI yang dapat dipercaya dipertahankan sehingga alasan di balik keputusan dapat diperiksa.
Keputusan desain
Dalam red teaming, model dan fondasi tidak dikunci; data, koneksi, dan pemantauan dipisahkan agar alasan pemilihan tetap terdokumentasi. Keterkaitannya dengan AI yang dapat dipercaya dipertahankan sehingga alasan di balik keputusan dapat diperiksa.
Metode verifikasi
Dalam red teaming, masukan dan kriteria yang dapat direproduksi disiapkan untuk memeriksa perilaku, termasuk contoh kegagalan. Keterkaitannya dengan AI yang dapat dipercaya dipertahankan sehingga alasan di balik keputusan dapat diperiksa.
Pemeriksaan saat operasi
Dalam red teaming, riwayat perubahan, perubahan mutu, dan kondisi penggunaan dilacak, serta jalur pengembalian disediakan bila diperlukan. Keterkaitannya dengan AI yang dapat dipercaya dipertahankan sehingga alasan di balik keputusan dapat diperiksa.
Keputusan manusia
Dalam red teaming, keputusan penting tidak diserahkan hanya kepada otomatisasi; penanggung jawab dan titik pemeriksaan dirancang secara jelas. Keterkaitannya dengan AI yang dapat dipercaya dipertahankan sehingga alasan di balik keputusan dapat diperiksa.