RLHF – Reinforcement Learning from Human Feedback
Kurz erklärt
Ein Trainingsansatz, bei dem menschliche Bewertungen in ein Lernsignal für das Modell einfließen.
Einordnung
Damit kann erwünschtes Antwortverhalten gefördert werden; sachliche Richtigkeit ist dadurch nicht automatisch gewährleistet.
Bewertende vergleichen mehrere Antworten darauf, wie hilfreich und angemessen sie sind.