Reinforcement Learning from AI Feedbackの略。AIによる評価をフィードバックとして利用する強化学習です。AIが付けた好みのラベルから報酬モデルを学習させる方法や、AIの評価を直接報酬にする方法があります。
実務で確認すること
多くの回答を評価する際に、AIによる判定を活用できます。調整の内容を理解するには、評価に使うモデル、採点基準、人による点検の方法を確認します。同じ回答でも評価用の指示によって判断が変わるため、評価の設定も学習設計の一部になります。
参考資料
確認日: