Apple の The Illusion of Thinking の誤解
カテゴリ：deeplearning
X（旧 Twitter）では Apple の The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity という論文が「LRM は推論をしてるのではなくパターンマッチングをしているだけ」と主張しているという、間違いを信じている人が多い。
しかし、この論文はそのような主張はしていない。
実際の論文の内容
AUTOMATIC1111 の便利な機能
カテゴリ：deeplearning
目次
- デティール追加
- Refinier
- CD(Color/Detail) Tuner（色調や書き込み量を調節）
- After Detailer（顔を検出して顔を加筆）
- Dotgeo(hijack) Detection Detailer（顔を検出して顔を加筆）
- 『KakikomiPlus』元の絵を極力保ったままAIによって描きこみを生成するソフト（スタンドアロンアプリ）
- LLuL - Local Latent upscaLer（指定した矩形の箇所を加筆）
- Detection Detailer（マスクの自動生成）
- img2img
- img2img のステップ数を直接指定
- Only masked（マスクした部分を拡大してから再生成して合成：旧 Inpaint at full rsolution）
- Batch img2img（フォルダ内の画像すべてに img2img を実行）
- Face Restration（顔を修復する機能）
- Loopback（img2img の結果に img2img を実行する）
- --gradio-img2img-tool（簡易ペイントツール追加）
- 色の補正
- Detection Detailer（顔のマスクを自動生成してくれる Extension）
- Depth-guided model（深度情報を使った img2img）
- Novel AI のような noise strength
- プロンプト
- ファインチューン
- 操作
- Generate ボタンを右クリック > Generate forever で止めるまで生成。止めるときは右クリック > cancel
- Ctrl + Enter で Generate
- Ctrl + Z プロンプトを元に戻す
- スライダーをクリックした後十字キーで１ずつ増減できる
- Alt + ← or → カンマ区切りの文字を選択して左右移動（1.5.0 以降）
- 検証
- X/Y plot（パラメーターの検証に使う）
- Prompt matrix
- Visualize Cross Attention（プロンプトが画像のどこに効いているか可視化）
- DAAM Extension for Stable Diffusion Web UI（プロンプトが画像のどこに効いているか可視化）
- UI
- 高速化
- forgeを使う
- sd-forge-blockcache
- 532.03 以降の GeForce ドライバを使う
- xformers
- FlashAttention-2
- --opt-sdp-attention（VRAM 消費量が増えるが xFormers より速くなるかもしれない）
- Token merging
- HyperTile
- ライブプレビューを切る
- pytorch 2.0（RTX4000番台で高速化する）
- TensorRT Extension for Stable Diffusion Web UI
- TensorRT support for webui
- Lsmith
- Latent Consistency Model
- Adversarial Diffusion Distillation
- SDXL Turbo
- 省メモリ
- そのほか
- Extension など
- Config Presets（設定保存）
- sd_web_ui_preset_utils（設定保存）
- Booru tag autocompletion for A1111（タグ補完）
- extensionEditor（AUTOMATIC1111向けのプロンプトエディター）
- Dataset Tag Editor（タグで画像を編集したり、タグを編集するエディタ）
- Helper GUI for manual tagging/cropping（画像のタグ管理エディタ）
- embedding editor（768 個ある潜在表現ベクトルを手動で調整）
- multi-subject-render（背景とオブジェクトとを雑コラしてくれる）
- Regional Prompter （プロンプトの効く領域を指定）
- Latent Couple extension（プロンプトの効く領域を指定）
- Depth map library and poser（手の深度マップライブラリ）
- Cutoff - Cutting Off Prompt Effect（色移り防止）
- ABG_extension （背景透過）
- 【Stable Diffusion】WebUIに必ず導入したいおすすめの拡張機能40選+α【Extensions】
- animeDiff
- Controlnet
- ポーズ・構図の指定と着色ができる。Image2Image はグレースケール画像の着色ができなかったが Controlnet ではそれができる。
- ControlNet の新モデル Anystyle
- Reference-Only（参考画像を基にイラスト作成）
- ControlNetでポーズや構図を指定してAIイラストを生成する方法
- AUTOMATIC1111+ControlNetのつかいかた2(目当ては自動塗り)
- AIで適当な線画を清書し、さらに色を塗って高品質なイラストに仕上げる方法【ControlNet活用術】
- 画像生成AIを線画整えツールや自動彩色ツールにする
- Character bones that look like Openpose for blender _ Ver_6 Depth+Canny+Landmark（Blender 上でポージングできるツール）
- 「ControlNet 1.1」の新機能まとめ！新しいモデルや改善点を紹介【Stable Diffusion】
- ControlNet(v1.1)の詳しい解説！輪郭やポーズから思い通りの絵を書かせる
- 入力線画を全く変えずに画像生成AIに色塗りさせる方法
- MLSD
- プリプロセッサの dw_openpose（写真から棒人間を作成して入力）
- Multi-Controlnet
- Extension
- Model
NovelAI Diffusion V3 の改善点
カテゴリ：deeplearning
llama-cpp-python + CUDA + Windows ビルドメモ
カテゴリ：deeplearning
Stable Diffusion のファインチューンの Tips
カテゴリ：deeplearning
LoRA はLoRA の学習方法へ移動した。
LoRA 以外の情報（Hypernetwork や Textual Inversion、Dreambooth）はStable Diffusion の古い情報へ移動した。
目次
U-Net の学習
わかりやすい解説として「U-Net は画像のデノイズを行う」という説明がされるが、これは正確には間違いだ。U-Net は除去すべきノイズを出力する。
学習のプロセスは以下のようになる。
- ランダムにタイムステップ t ∈ [0, 1000]を選ぶ
- 教師画像にタイムステップ t に対応するノイズを付与する
- U-Net にノイズを付与した教師画像とタイムステップ t とコンテクスト（embedding 化したキャプション）を入力
- U-Net が除去すべきノイズを出力する
- 付与したノイズと U-Net が出力したノイズとの差分から平均二乗誤差（MSE）を計算する
- 差分を逆伝播して学習する
タイムステップはノイズの量をきめる。0 が教師画像そのもので、1000 が純粋なノイズ画像だ。
概要
2023 年８月現在 LoRA 一強の状況で、Textual Inversion・Hypernetwork・Dreambooth（正則化画像） はほとんど使われていない。
U-Net や Diffusion Transformer はどのようにして可変解像度に対応しているのか
カテゴリ：deeplearning
固定幅入力・逆順生成の動画生成 AI FramePack の論文の解説
カテゴリ：deeplearning
NoobAI-XL 1.0 のアーティストブレンド例
カテゴリ：deeplearning
AUTOMATIC1111 の Dreambooth の使い方
カテゴリ：deeplearning
LoRA はLoRA の学習方法に移動した。
目次
- 概要
- 正則化画像の必要性
- Parameters
- Advanced
- Concepts
- A Few Dreambooth Observations and Tips, Leafier Closer Shots With the New Vae File (higher CFG)
- モデルの圧縮（脱水）
Textual Inversion の使い方
カテゴリ：deeplearning