Aggiunto il 12/05/2026
Prompt Caching
ENPrompt Caching · uso non numerabile
ITPrompt Caching · gen. m. · uso non numerabile
Tecnica che conserva la parte iniziale di un prompt già elaborata dal modello e la riusa nelle richieste successive, così le risposte arrivano prima e costano meno.
Quando più richieste iniziano con lo stesso contesto, il modello ripete parte del lavoro computazionale. Il prompt caching conserva la rappresentazione interna del segmento condiviso e la riusa nelle chiamate compatibili successive. È utile nelle applicazioni che inviano spesso istruzioni di sistema, documentazione o contesti lunghi. Il risparmio cresce con Prompt estesi e traffico ripetitivo. La cache deve rispettare isolamento tra utenti, scadenze e aggiornamenti dei dati.