Aggiunto il 24/03/2026
AI Safety
Sicurezza dell'AI
ENAI Safety · uso non numerabile
ITSicurezza dell'AI · uso non numerabile
Campo di ricerca che studia come rendere i sistemi di intelligenza artificiale sicuri, prevedibili e coerenti con gli obiettivi umani.
AI Safety studia rischi che vanno da risposte pericolose a sistemi capaci di perseguire obiettivi diversi da quelli assegnati. Le aree principali includono alignment, robustezza, interpretabilità, valutazione dei comportamenti e prevenzione dell'uso improprio. Il campo è diventato centrale con la diffusione dei LLM, perché modelli più capaci possono produrre danni concreti quando agiscono senza limiti chiari. Servono metriche, audit e controlli continui.