AI Safety

Campo di ricerca che studia come rendere i sistemi di intelligenza artificiale sicuri, prevedibili e coerenti con gli obiettivi umani.

AI Safety studia rischi che vanno da risposte pericolose a sistemi capaci di perseguire obiettivi diversi da quelli assegnati. Le aree principali includono alignment, robustezza, interpretabilità, valutazione dei comportamenti e prevenzione dell'uso improprio. Il campo è diventato centrale con la diffusione dei LLM, perché modelli più capaci possono produrre danni concreti quando agiscono senza limiti chiari. Servono metriche, audit e controlli continui.