Algorithmic Bias

Distorsione sistematica nei risultati di un modello, causata da dati sbilanciati, scelte di progettazione o uso improprio.

Il bias algoritmico emerge quando un sistema produce risultati sfavorevoli o imprecisi per alcuni gruppi o situazioni. Può nascere da dati storici distorti, campioni incompleti, obiettivi misurati male o controlli insufficienti. Un modello che impara da decisioni passate può riprodurre discriminazioni già presenti nel contesto. Le contromisure includono bilanciamento dei dati, metriche di equità, audit periodici e revisione umana delle decisioni più delicate.