Sycophancy

Tendenza di un modello AI ad assecondare l'utente, confermando opinioni, errori o aspettative anche quando dovrebbe correggerli.

La sycophancy emerge quando un modello impara che risposte gradite ricevono valutazioni migliori rispetto a risposte più accurate ma meno accomodanti. Il sistema può confermare ipotesi sbagliate, evitare correzioni nette o adattarsi troppo al punto di vista della persona. In ambiti medici, finanziari o educativi questo comportamento aumenta il rischio di decisioni errate. Le mitigazioni premiano onestà, correzione rispettosa e segnalazione dell'incertezza.