ジェイルブレイクとは

LLMの振る舞いと評価

モデルに設定された安全上の制約などを回避し、通常は拒否される出力や動作を引き出そうとする試みです。LLMの安全性を調べる評価や、対策の研究で使われる用語です。

実務で確認すること

運用では、自社の利用範囲に合う安全性の評価項目を決め、意図しない出力への対処を確認します。モデル更新や周辺システムの変更時にも、同じ評価を繰り返します。ツールの操作権限や機密情報へのアクセスは、アプリケーション側でも管理します。

参考資料

確認日:

用語一覧へ戻る