Local Model

Modello computazionale eseguito sulla macchina o sul dispositivo dell'utente, usato per generare risposte senza inviare ogni richiesta a un servizio remoto.

Un Local Model viene scaricato o caricato in un runtime installato sul computer, sul server aziendale o sul telefono. L'elaborazione avviene vicino ai dati, con vantaggi su privacy, latenza e controllo dei costi. Le prestazioni dipendono da memoria, processore, GPU e ottimizzazioni come quantizzazione e formati compatti. Nei flussi moderni può servire chat, ricerca su documenti, automazioni e prototipi che restano utilizzabili anche con connettività limitata.