RLHF (Reinforcement Learning from Human Feedback)
Apprendimento per rinforzo dal feedback umano
Metodo di addestramento in cui persone giudicano e confrontano le risposte di un modello AI, che impara così a dare risposte più utili, chiare e sicure.
Valutatori umani confrontano più risposte allo stesso prompt e indicano la migliore; con questi giudizi si addestra un modello di ricompensa che stima che cosa le persone preferiscono. Il modello principale viene poi ottimizzato con apprendimento per rinforzo per ottenere punteggi più alti. La tecnica ha reso i chatbot più utili e cooperativi, ma eredita i limiti delle valutazioni, come compiacenza verso l'utente, eccessiva prudenza o bias presenti nei criteri umani.
Storia d'uso
Origine lessicale non attestabile
I documenti consultati provano l’uso contemporaneo dell’acronimo e della locuzione estesa, ma non bastano a stabilire chi abbia coniato il lemma o la sua prima attestazione.
Verifica d'uso:
- onlinelibrary.wiley.com ·
Reinforcement learning from human feedback (RLHF) has shown strong potential
- arxiv.org ·
We introduce the main components of RLHF, including supervised fine-tuning, reward modeling, and policy optimization
- onlinelibrary.wiley.com ·