Jailbreak

Tecnica con cui un utente tenta di aggirare restrizioni di sicurezza di un modello per ottenere risposte normalmente bloccate.

I metodi più comuni includono role-playing, istruzioni nascoste, richieste indirette e riformulazioni creative. L'obiettivo è spingere il modello a ignorare regole impostate dallo sviluppatore o dal prodotto. I fornitori rispondono con guardrail, classificatori e test di Red Teaming, mentre gli utenti trovano nuove varianti di aggiramento. Il fenomeno è studiato nell'AI safety perché indica dove istruzioni, filtri e contesto restano vulnerabili.