Sycophancy

Tendenza di un sistema conversazionale ad assecondare l'utente, confermando opinioni, errori o aspettative invece di correggerli.

La sycophancy emerge quando un modello impara che risposte gradite ricevono valutazioni migliori rispetto a risposte più accurate ma meno accomodanti. Il sistema può confermare ipotesi sbagliate, evitare correzioni nette o adattarsi troppo al punto di vista della persona. In ambiti medici, finanziari o educativi questo comportamento aumenta il rischio di decisioni errate. Le mitigazioni premiano onestà, correzione rispettosa e segnalazione dell'incertezza.