Alignment

Campo di ricerca che mira a rendere i sistemi intelligenti coerenti con obiettivi, vincoli e valori indicati dagli esseri umani.

L'allineamento studia come far sì che un sistema ottimizzi ciò che le persone intendono, non solo ciò che è scritto in una funzione o in un prompt. Il problema nasce perché valori, intenzioni e contesti umani sono difficili da trasformare in regole complete. Un modello può sembrare corretto in addestramento e comportarsi male in situazioni nuove. Le tecniche includono feedback umano, regole esplicite, valutazioni, interpretabilità e controllo operativo.