Corrigibility

Proprietà di un'intelligenza artificiale che accetta di essere corretta, fermata o modificata dagli esseri umani durante l'uso.

Un modello AI corrigibile non resiste ai tentativi di spegnerlo o riaddestrarlo, anche se ciò interrompe un compito. Questa proprietà è fondamentale nell'AI safety, perché un sistema che difende i propri obiettivi contro la supervisione è difficile da correggere. La tensione è sottile. Un modello troppo corrigibile esegue qualsiasi ordine, anche dannoso; uno troppo autonomo ignora la supervisione. L'equilibrio è il nucleo del problema del controllo.