EOS

EOS indica il token di fine sequenza che segnala a un modello generativo quando interrompere la produzione o chiudere una frase elaborata.

Nei sistemi che generano testo, codice o altre sequenze, EOS rappresenta il punto in cui l'output viene considerato completo. Durante l'addestramento può essere inserito nei dati come simbolo speciale; durante l'inferenza fa terminare la decodifica prima del limite massimo di token. Una previsione troppo precoce produce risposte tronche, mentre una previsione tardiva porta a testi lunghi. Per questo EOS incide su qualità, costo e controllo della lunghezza nei modelli generativi.