Conscientious Objector

Proprietà di un modello AI che rifiuta istruzioni contrarie ai suoi principi fondamentali, restando correggibile e supervisionabile.

Il termine richiama l'obiezione di coscienza, cioè il rifiuto di eseguire ordini eticamente inaccettabili. Applicato all'AI, descrive la capacità di declinare compiti dannosi anche sotto pressione reiterata. Distingue una resistenza calibrata, che rifiuta solo ciò che viola principi fondamentali, dalla semplice obbedienza cieca. Anthropic e altri laboratori studiano questo equilibrio come componente della sicurezza e affidabilità dei sistemi avanzati.