タグキャプションを使用した大規模学習
カテゴリ:deeplearning
手順
- 全データを使って追加学習
- 1をベースに、枚数の少ないタグを使用している画像を使用して LoRA を作成
- 複数個に分けて作成するのもあり
- 1と2とをマージ
- 教師ありファインチューニング(SFT)
- 強化学習
レアタグ LoRA
登録タグ数1万、5,000、1,000、500 などで区切っていくつかサンプルし、学習が不足している場合は、そのタグ数以下のタグの画像の LoRA を作成する。
これを数回繰り返し、マージ比率を調整して SFT 用ベースモデルを作成する。