AI Guardrails

Controlli applicati a un sistema intelligente, limitano contenuti e azioni secondo regole definite e possono bloccare o reindirizzare richieste problematiche.

I controlli possono esaminare la richiesta iniziale, la risposta generata e le azioni che un agente intende eseguire. Regole esplicite o modelli dedicati rilevano contenuti vietati, dati sensibili o operazioni fuori dai permessi concessi. L’applicazione decide quindi se interrompere il processo, correggere la risposta o chiedere un intervento umano. L’efficacia dipende dalla copertura dei controlli e va verificata anche sui tentativi di aggiramento.