報酬モデルとは

LLMの学習と調整

入力やモデルの回答に対して、どれくらい望ましいかを数値で評価するモデルです。人やAIによる評価から学習し、言語モデルの調整や回答候補の選択などに利用されます。

実務で確認すること

複数の回答を比較して、評価基準に合う候補へ高いスコアを与える使い方があります。スコアの意味は学習時の基準に依存します。事実の正確さ、役立ち方、形式の遵守など、何を評価するために作られたモデルかを確認します。

参考資料

確認日:

用語一覧へ戻る