Bias

Distorsione sistematica introdotta da dati, campioni o assunzioni di un modello, capace di spostare risultati e previsioni in una direzione ricorrente.

In statistica il bias misura quanto una stima tende a discostarsi dal valore reale per effetto di metodi, campioni o ipotesi sbilanciate. Nei sistemi di AI può entrare nei dati di addestramento, nella scelta delle variabili, negli obiettivi di ottimizzazione o nelle procedure di valutazione. Il risultato sono deviazioni ripetibili, capaci di ridurre accuratezza, equità e capacità di generalizzare a casi nuovi. Per ridurlo si controllano dati, metriche e test.