Constitutional Authority

Principio per cui un sistema AI o un protocollo resta vincolato a un documento fondamentale di regole anche davanti a istruzioni contrarie.

Nel contesto dell'allineamento AI, il documento costitutivo fissa valori e limiti che il sistema deve rispettare indipendentemente dalle istruzioni. Analogamente nelle DAO, regole on-chain stabiliscono vincoli che nemmeno una maggioranza può modificare oltre certi limiti. Il problema fondamentale è garantire che un sistema potente rimanga fedele ai propri principi anche sotto pressione. La sfida pratica è che qualsiasi documento va interpretato e l'interpretazione introduce ambiguità.