RLAIFとは

LLMの学習と調整

Reinforcement Learning from AI Feedbackの略。AIによる評価をフィードバックとして利用する強化学習です。AIが付けた好みのラベルから報酬モデルを学習させる方法や、AIの評価を直接報酬にする方法があります。

実務で確認すること

多くの回答を評価する際に、AIによる判定を活用できます。調整の内容を理解するには、評価に使うモデル、採点基準、人による点検の方法を確認します。同じ回答でも評価用の指示によって判断が変わるため、評価の設定も学習設計の一部になります。

参考資料

確認日:

用語一覧へ戻る