作者mayasoo (mayasoo)
看板AI_Art
标题[情报] 加速产图速度
时间Tue Mar 28 18:51:45 2023
免责声明:
1.效果不如预期或者导致VENV崩溃不负责任
2.要有基本知识DEBUG
3.不负责解答,因为我也不懂
简单说明
安装torch==2.0.0+cu118 torchvision==0.15.1+cu118 xformers==0.0.17rc482
30以上卡适用
参考
https://github.com/kohya-ss/sd-scripts/issues/326
https://www.reddit.com/r/StableDiffusion/comments/11tfh5v/torch_20_just_went_ga_
in_the_last_day/
https://www.bilibili.com/video/BV1Ts4y1J76y?share_source=copy_web
简单说明
第一个网址中间有一个框框
https://imgur.com/a/j2kMSXa
pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 --extra-index-url
https://download.pytorch.org/whl/cu118
pip install --use-pep517 --upgrade -r requirements.txt
pip install -U -I --no-deps
https://files.pythonhosted.org/packages/d6/f7/02662286419a2652c899e2b3d1913c47723fc164b4ac06a85f769c291013/xformers-0.0.17rc482-cp310-cp310-win_amd64.whl
因为BBS分行问题所以拜托去原网址COPY
然後
然後启动参数
加上 --opt-sdp-attention --opt-channelslast
重启
论坛上有人说可以加速一倍~~~
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.35.119.221 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1680000711.A.77B.html
1F：推 artpoet: 推~ 03/28 18:52
2F：→ encorek22554: 有了spd就不需要xformer了吧 03/28 19:34
3F：→ encorek22554: *sdp 03/28 19:34
4F：→ mayasoo: 我实际测试有XFORMERS会稍微快一点 03/28 21:32
5F：推 wres666: 嗯？ 我以为pytorch2.0只会影响训练 03/28 23:57
6F：→ mayasoo: 原理不懂，但是的确有用，不过每个人用的效果又不太一样 03/29 07:13
7F：→ mayasoo: 就神奇 03/29 07:13
8F：推 Layase: 安装过程有出现error 不过还是快了很多 03/29 08:13
9F：→ Chikei: 主要是cuDNN吧，这在1111 repo之前有人讨论了，30/40卡自 03/29 10:36
10F：→ Chikei: 己换成8.7有机会提昇不少效能 03/29 10:36
11F：推 marklai: 请教如果与xformer 比较 ,使用之後大概可以提升多少呢? 03/29 13:56
12F：→ marklai: 看 benchmark的网站， 有的sdp比较好，但也有xformers比 03/29 14:07
13F：→ marklai: 较好 03/29 14:07
14F：推 BetaCat: opt-channelslast这个反而我加上去比较慢，也不知道有没 03/29 20:04
15F：→ BetaCat: 有比较省记忆体乾脆拔掉了 spd我是改用另一个参数才有用 03/29 20:04
16F：→ BetaCat: xformer参数也是没加比较快一点 大概只有训练比较有差吧 03/29 20:05
17F：→ mayasoo: 我的情况是1.3060TI8G,2.已完成上述安装3.512*640图 03/29 22:28
18F：→ mayasoo: 4.DPM++2M karras 15steps 03/29 22:29
19F：→ mayasoo: 3.97it/s 3sec 03/29 22:34
20F：推 ny40ny40ny: 推 提升有感 我3060ti大概快了一倍 03/31 10:44
21F：推 andyleeyuan: 单纯sd算图的环境也可以使用吗? 不是训练lora的 03/31 18:40
22F：推 marklai: 单纯算图一定是可以加快的 04/01 21:57
23F：→ marklai: 不过有国外的网友 说他提升後， 速度加快了 但hires 反 04/01 22:02
24F：→ marklai: 而出问题 04/01 22:02
25F：推 JKGOOD: 3080TI使用完感受不出差异 04/06 07:51