作者mayasoo (mayasoo)
看板AI_Art
標題[情報] 加速產圖速度
時間Tue Mar 28 18:51:45 2023
免責聲明:
1.效果不如預期或者導致VENV崩潰不負責任
2.要有基本知識DEBUG
3.不負責解答,因為我也不懂
簡單說明
安裝torch==2.0.0+cu118 torchvision==0.15.1+cu118 xformers==0.0.17rc482
30以上卡適用
參考
https://github.com/kohya-ss/sd-scripts/issues/326
https://www.reddit.com/r/StableDiffusion/comments/11tfh5v/torch_20_just_went_ga_
in_the_last_day/
https://www.bilibili.com/video/BV1Ts4y1J76y?share_source=copy_web
簡單說明
第一個網址中間有一個框框
https://imgur.com/a/j2kMSXa
pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 --extra-index-url
https://download.pytorch.org/whl/cu118
pip install --use-pep517 --upgrade -r requirements.txt
pip install -U -I --no-deps
https://files.pythonhosted.org/packages/d6/f7/02662286419a2652c899e2b3d1913c47723fc164b4ac06a85f769c291013/xformers-0.0.17rc482-cp310-cp310-win_amd64.whl
因為BBS分行問題所以拜託去原網址COPY
然後
然後啟動參數
加上 --opt-sdp-attention --opt-channelslast
重啟
論壇上有人說可以加速一倍~~~
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.35.119.221 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/AI_Art/M.1680000711.A.77B.html
1F：推 artpoet: 推~ 03/28 18:52
2F：→ encorek22554: 有了spd就不需要xformer了吧 03/28 19:34
3F：→ encorek22554: *sdp 03/28 19:34
4F：→ mayasoo: 我實際測試有XFORMERS會稍微快一點 03/28 21:32
5F：推 wres666: 嗯？ 我以為pytorch2.0只會影響訓練 03/28 23:57
6F：→ mayasoo: 原理不懂，但是的確有用，不過每個人用的效果又不太一樣 03/29 07:13
7F：→ mayasoo: 就神奇 03/29 07:13
8F：推 Layase: 安裝過程有出現error 不過還是快了很多 03/29 08:13
9F：→ Chikei: 主要是cuDNN吧，這在1111 repo之前有人討論了，30/40卡自 03/29 10:36
10F：→ Chikei: 己換成8.7有機會提昇不少效能 03/29 10:36
11F：推 marklai: 請教如果與xformer 比較 ,使用之後大概可以提升多少呢? 03/29 13:56
12F：→ marklai: 看 benchmark的網站， 有的sdp比較好，但也有xformers比 03/29 14:07
13F：→ marklai: 較好 03/29 14:07
14F：推 BetaCat: opt-channelslast這個反而我加上去比較慢，也不知道有沒 03/29 20:04
15F：→ BetaCat: 有比較省記憶體乾脆拔掉了 spd我是改用另一個參數才有用 03/29 20:04
16F：→ BetaCat: xformer參數也是沒加比較快一點 大概只有訓練比較有差吧 03/29 20:05
17F：→ mayasoo: 我的情況是1.3060TI8G,2.已完成上述安裝3.512*640圖 03/29 22:28
18F：→ mayasoo: 4.DPM++2M karras 15steps 03/29 22:29
19F：→ mayasoo: 3.97it/s 3sec 03/29 22:34
20F：推 ny40ny40ny: 推 提升有感 我3060ti大概快了一倍 03/31 10:44
21F：推 andyleeyuan: 單純sd算圖的環境也可以使用嗎? 不是訓練lora的 03/31 18:40
22F：推 marklai: 單純算圖一定是可以加快的 04/01 21:57
23F：→ marklai: 不過有國外的網友 說他提升後， 速度加快了 但hires 反 04/01 22:02
24F：→ marklai: 而出問題 04/01 22:02
25F：推 JKGOOD: 3080TI使用完感受不出差異 04/06 07:51