Corrigibility

Proprietà di un sistema AI che resta disposto a essere corretto, fermato o modificato da operatori umani autorizzati durante l'uso.

La corrigibility descrive un sistema che accetta interventi umani anche quando questi cambiano il suo piano o limitano il raggiungimento dell'obiettivo assegnato. È un tema centrale nella sicurezza dell'AI, perché un agente molto autonomo potrebbe altrimenti aggirare spegnimento, correzioni o nuove istruzioni. Progettarla richiede incentivi, architetture e controlli che rendano l'intervento umano parte normale del funzionamento, non un ostacolo.