dskjal
広告
広告

タグキャプションを使用した大規模学習

カテゴリ:deeplearning

手順

  1. 全データを使って追加学習
  2. 1をベースに、枚数の少ないタグを使用している画像を使用して LoRA を作成
  3. 1と2とをマージ
  4. 教師ありファインチューニング(SFT)
  5. 強化学習

レアタグ LoRA

登録タグ数1万、5,000、1,000、500 などで区切っていくつかサンプルし、学習が不足している場合は、そのタグ数以下のタグの画像の LoRA を作成する。

これを数回繰り返し、マージ比率を調整して SFT 用ベースモデルを作成する。


広告
広告

カテゴリ