Aggiunto il 29/01/2026
Red-teaming
ENRed-teaming · uso non numerabile
ITRed-teaming · gen. m. · uso non numerabile
Prova in cui un gruppo di esperti si finge attaccante e cerca di ingannare o far sbagliare un sistema, per scoprirne i punti deboli prima che arrivi al pubblico.
Il red-teaming mette un sistema sotto pressione usando comportamenti ostili o casi limite realistici. Nel software può cercare falle di sicurezza; nei sistemi AI prova prompt dannosi, aggiramenti, istruzioni ambigue, bias e risposte pericolose. L'obiettivo è scoprire problemi prima che lo facciano utenti o attaccanti. I risultati servono a migliorare filtri, dati, policy, interfacce e procedure di intervento umano o blocco automatico.