Constitutional Authority

Principio per cui un sistema di AI resta vincolato a un insieme fondamentale di regole quando riceve istruzioni incompatibili con esse.

Nel contesto dell'allineamento, una costituzione stabilisce valori e limiti che orientano il comportamento del sistema. La sua autorità prevale sulle richieste ordinarie quando queste entrano in conflitto con i principi dichiarati. Il modello può usare le regole per valutare risposte, correggersi o motivare un rifiuto. La difficoltà sta nell'interpretare norme generali in casi concreti, gestire valori in tensione e stabilire chi possa modificare il documento senza indebolire le garanzie.