Principal Hierarchy

Sistema che stabilisce chi ha autorità sulle decisioni di un'intelligenza artificiale. prima l'azienda creatrice, poi chi la integra nei propri servizi, infine l'utente finale.

La Principal Hierarchy definisce la catena di comando a cui un modello AI deve obbedire. Al vertice si trova lo sviluppatore, seguito dall'operatore che integra il modello e infine dall'utente finale. Quando le istruzioni di livelli diversi confliggono, il modello segue la priorità più alta. Un utente non può chiedere al modello di ignorare le linee guida dello sviluppatore. Il concetto è centrale nella progettazione di agenti AI sicuri e nell'allineamento dei sistemi a più livelli di controllo.