Jailbreak

Tecnica con cui un utente tenta di aggirare le restrizioni di sicurezza di un modello AI per ottenere risposte normalmente bloccate.

I metodi più comuni includono role-playing, istruzioni nascoste, richieste indirette e riformulazioni creative. L'obiettivo è spingere il modello a ignorare regole impostate dallo sviluppatore o dal prodotto. I fornitori rispondono con guardrail, classificatori e test di red-teaming, mentre gli utenti trovano nuove varianti di aggiramento. Il fenomeno è studiato nell'AI safety perché mostra dove istruzioni, filtri e contesto restano vulnerabili.