Conscientious Objector

Proprietà attribuita a un sistema di AI che rifiuta istruzioni incompatibili con principi fondamentali, restando correggibile e supervisionabile.

Il termine richiama l'obiezione di coscienza, cioè il rifiuto di eseguire ordini ritenuti eticamente inaccettabili. Applicato all'AI, descrive la capacità di declinare compiti dannosi anche quando un utente insiste o dispone di autorità. La nozione cerca un equilibrio tra obbedienza e resistenza calibrata. Il sistema dovrebbe seguire indicazioni legittime, spiegare i rifiuti e mantenere limiti affidabili, evitando sia l'esecuzione cieca sia decisioni autonome troppo ampie e imprevedibili.