Prompt Injection

Attacco in cui testo malevolo spinge un sistema automatico a ignorare istruzioni prioritarie, rivelare dati o agire male.

Nel prompt injection diretto, l'attaccante inserisce istruzioni nel testo inviato al modello. Nel caso indiretto, l'ordine nascosto arriva da email, pagine web, documenti o altri contenuti che il sistema legge durante il lavoro. Il rischio cresce quando il modello può usare strumenti, inviare richieste o accedere a dati riservati. Le difese separano istruzioni e contenuti, limitano i permessi, validano gli input e controllano le azioni prima dell'esecuzione.