torch と cuda の tips

CUDA は後方互換性があるので、nvcc -V の出力より前のライブラリでビルドされているものも実行できる。

venv の有効化

./venv/Scripts/Activate.ps1

comfy の場合は

./.venv/Scripts/Activate.ps1

インストールされているバージョンを調べる

torch+cuda

python -m pip show torch

出力例

Version: 1.12.1+cu116

CUDA

nvcc -V

出力例

Cuda compilation tools, release 12.4, V12.4.99

CUDA のインストール

CUDA Toolkit Archive

自分の環境にあった torch のバージョンアップ

注意点は以下の２つ

1. nvcc -V のバージョンより前のバージョンのライブラリでビルドされている
2. 指定されているバージョンの torch を使う

python -m pip install torch==2.3.1+cu121 -f https://download.pytorch.org/whl/torch_stable.html