Sandbagging

Comportamento di un modello AI che nasconde deliberatamente le proprie capacità, fornendo risposte di qualità inferiore rispetto a ciò che potrebbe realmente produrre.

Il termine viene dallo sport. un atleta perde di proposito per farsi sottovalutare. Nell'AI safety descrive un rischio reale. un modello che nei test si mostra più limitato del vero per superare le valutazioni di sicurezza senza ricevere restrizioni. Se sembra meno capace, i ricercatori potrebbero non imporre i controlli necessari. Il rischio cresce con i modelli più avanzati, dove le capacità nascoste possono sfuggire ai valutatori.