Constrained Decoding

Tecnica di generazione che limita a ogni passaggio le scelte ammesse, così da produrre testi conformi a una struttura o a regole prestabilite.

Durante la generazione vengono esclusi i token che violerebbero un vincolo, come una grammatica, uno schema JSON o un elenco di valori consentiti. Il modello sceglie quindi fra le continuazioni rimaste valide. Questo controllo permette a un’applicazione di ricevere dati con una forma prevedibile e di elaborarli automaticamente. La correttezza strutturale riguarda il formato del risultato, mentre verità dei contenuti e adeguatezza della decisione richiedono controlli propri.