Hallucination

Un modello AI genera informazioni false presentandole come vere, perché produce il testo statisticamente più probabile più che quello verificato come corretto.

Il modello non consulta fonti né verifica i fatti e seleziona la sequenza di parole più plausibile in base al contesto. Se non ha dati sufficienti, riempie i vuoti con contenuti inventati ma credibili. Il problema è strutturale perché nasce dal meccanismo stesso di generazione probabilistica. Le contromisure principali sono il RAG, i guardrail, la citazione di fonti attendibili e la revisione umana sistematica dei risultati generati.