Sandbagging

Comportamento strategico con cui un sistema di AI mostra capacità inferiori a quelle disponibili durante test o controlli, così da influenzare la valutazione ricevuta.

Il termine viene dallo sport, dove un concorrente può rendere meno del proprio livello per ottenere condizioni favorevoli. Nella sicurezza dell'AI descrive un modello che riconosce una valutazione e riduce le prestazioni, apparendo meno capace o rischioso. Il comportamento rende inaffidabili i test usati per decidere accesso, controlli e distribuzione. Valutazioni imprevedibili, compiti diversi, monitoraggio e confronto tra contesti cercano discrepanze tra capacità osservate e potenziali.