スケール則の終わり
カテゴリ：deeplearning
LLM のスケール則はモデルサイズ、データセットサイズ、学習に使う計算量の３つを適切な比率で増加させれば、LLM の性能は増加量に比例して向上する、という経験則だ。
そしてこのスケール則は以下の要因で終わりに近づいている。
AUTOMATIC1111 の便利な機能
カテゴリ：deeplearning
AUTOMATIC1111 は更新を停止している。ComfyUI か、AUTOMATIC1111 の後継で余計な機能を排除してアップデートされた sd-webui-forge-classic に移行した方がいい。
目次
- デティール追加
- Refinier
- CD(Color/Detail) Tuner（色調や書き込み量を調節）
- After Detailer（顔を検出して顔を加筆）
- Dotgeo(hijack) Detection Detailer（顔を検出して顔を加筆）
- 『KakikomiPlus』元の絵を極力保ったままAIによって描きこみを生成するソフト（スタンドアロンアプリ）
- LLuL - Local Latent upscaLer（指定した矩形の箇所を加筆）
- Detection Detailer（マスクの自動生成）
- img2img
- img2img のステップ数を直接指定
- Only masked（マスクした部分を拡大してから再生成して合成：旧 Inpaint at full rsolution）
- Batch img2img（フォルダ内の画像すべてに img2img を実行）
- Face Restration（顔を修復する機能）
- Loopback（img2img の結果に img2img を実行する）
- --gradio-img2img-tool（簡易ペイントツール追加）
- 色の補正
- Detection Detailer（顔のマスクを自動生成してくれる Extension）
- Depth-guided model（深度情報を使った img2img）
- Novel AI のような noise strength
- プロンプト
- ファインチューン
- 操作
- Generate ボタンを右クリック > Generate forever で止めるまで生成。止めるときは右クリック > cancel
- Ctrl + Enter で Generate
- Ctrl + Z プロンプトを元に戻す
- スライダーをクリックした後十字キーで１ずつ増減できる
- Alt + ← or → カンマ区切りの文字を選択して左右移動（1.5.0 以降）
- 検証
- X/Y plot（パラメーターの検証に使う）
- Prompt matrix
- Visualize Cross Attention（プロンプトが画像のどこに効いているか可視化）
- DAAM Extension for Stable Diffusion Web UI（プロンプトが画像のどこに効いているか可視化）
- UI
- 高速化
- forgeを使う
- sd-forge-blockcache
- 532.03 以降の GeForce ドライバを使う
- xformers
- FlashAttention-2
- --opt-sdp-attention（VRAM 消費量が増えるが xFormers より速くなるかもしれない）
- Token merging
- HyperTile
- ライブプレビューを切る
- pytorch 2.0（RTX4000番台で高速化する）
- TensorRT Extension for Stable Diffusion Web UI
- TensorRT support for webui
- Lsmith
- Latent Consistency Model
- Adversarial Diffusion Distillation
- SDXL Turbo
- 省メモリ
- そのほか
- Extension など
- Config Presets（設定保存）
- sd_web_ui_preset_utils（設定保存）
- Booru tag autocompletion for A1111（タグ補完）
- extensionEditor（AUTOMATIC1111向けのプロンプトエディター）
- Dataset Tag Editor（タグで画像を編集したり、タグを編集するエディタ）
- Helper GUI for manual tagging/cropping（画像のタグ管理エディタ）
- embedding editor（768 個ある潜在表現ベクトルを手動で調整）
- multi-subject-render（背景とオブジェクトとを雑コラしてくれる）
- Regional Prompter （プロンプトの効く領域を指定）
- Latent Couple extension（プロンプトの効く領域を指定）
- Depth map library and poser（手の深度マップライブラリ）
- Cutoff - Cutting Off Prompt Effect（色移り防止）
- ABG_extension （背景透過）
- 【Stable Diffusion】WebUIに必ず導入したいおすすめの拡張機能40選+α【Extensions】
- animeDiff
- Controlnet
- ポーズ・構図の指定と着色ができる。Image2Image はグレースケール画像の着色ができなかったが Controlnet ではそれができる。
- ControlNet の新モデル Anystyle
- Reference-Only（参考画像を基にイラスト作成）
- ControlNetでポーズや構図を指定してAIイラストを生成する方法
- AUTOMATIC1111+ControlNetのつかいかた2(目当ては自動塗り)
- AIで適当な線画を清書し、さらに色を塗って高品質なイラストに仕上げる方法【ControlNet活用術】
- 画像生成AIを線画整えツールや自動彩色ツールにする
- Character bones that look like Openpose for blender _ Ver_6 Depth+Canny+Landmark（Blender 上でポージングできるツール）
- 「ControlNet 1.1」の新機能まとめ！新しいモデルや改善点を紹介【Stable Diffusion】
- ControlNet(v1.1)の詳しい解説！輪郭やポーズから思い通りの絵を書かせる
- 入力線画を全く変えずに画像生成AIに色塗りさせる方法
- MLSD
- プリプロセッサの dw_openpose（写真から棒人間を作成して入力）
- Multi-Controlnet
- Extension
- Model
YOLO v8 のファインチューニング
カテゴリ：deeplearning
Danbooru タグ検索
カテゴリ：deeplearning
画像生成 AI の限界
カテゴリ：deeplearning
画像生成の出力は以下の限界がある。
- 学習データセット
- テキストエンコーダー・モデルの表現力
- 汎化能力が思ったほど高くない
- オペレータの語彙と想像力
言語の限界が現在の画像・動画生成の限界で、手書きの場合は言語化不可能な概念を画像で表現できる。言い換えると、Danbooru 語で訓練された AI は Danbooru タグを追加できないが、手書きなら Danbooru タグにない絵を描いて新しい Danbooru タグを追加できる。
1. データセットと汎化能力
バッチ正規化の Tips
カテゴリ：deeplearning
バッチ正規化自体に性能を向上させる能力はない
NVIDIA の AMP が遅くなる理由
カテゴリ：deeplearning
GAN の学習
カテゴリ：deeplearning
LLM を使ったストーリー作成
カテゴリ：deeplearning
LLM を使ったストーリー作成が一発でうまくいく事はない。なので、ストーリー作成の各工程ごとにアイデア出しの補助をさせることでストーリーを作成する。
AI のべりすとは日本語が使えるが性能は高くない。無料で公開されているローカル実行できる LLM を英語で使ったり、Chat GPT を使う方が効率がいい。AI のべりすとの強みはアダルト文章を日本語で出力できることだ。
目次
llama-cpp-python + CUDA + Windows ビルドメモ
カテゴリ：deeplearning