Algorithmic Bias

Distorsione sistematica nei risultati di un modello AI, causata da squilibri nei dati usati per l'addestramento: il sistema riproduce e amplifica pregiudizi già presenti nei dati.

Se un dataset contiene più curriculum maschili tra i profili assunti, il modello imparera che "maschio" correla con "assunto" e penalizzera le candidate donne, senza che nessuno lo abbia programmato per farlo. Il bias può riguardare genere, etnia, eta, lingua o provenienza geografica. Le contromisure includono il bilanciamento dei dati, l'audit periodico dei risultati e la trasparenza sui limiti del modello; nessuna elimina il problema del tutto, ma lo riduce a livelli gestibili.