作業系統:(ex:mac,win10,win8,win7,linux,etc...) Ubuntu 問題類別:(ex：ML,SVM,RL,DL,RNN,CNN,NLP,BD,Vis,etc...) CNN 使用工具:(ex:python,Java,C++,tensorflow,keras,MATLAB,etc...) PyTorch 問題內容: 想問大家在train超大型網路時連一個batch都塞不進VRAM的狀況 有沒有什麼心得或技巧？ 目前的狀況是想把cycleGAN改成3D的好用醫學影像來訓練 因為cycleGAN的cycle consistency對醫學應用來說非常有趣 但是cycleGAN本身的架構就是由4個中大型CNN組成 原作者公開的implementation 2D版本batch size=1的時候就會吃掉大約3GB的RAM 要換成3D的話trainable parameter直接暴增一個dimension 目前是用超小的patch size下去跑，不然的話… 只能指望用NVlink的Quadro GV100了 想到的蠢方法是用CPU跑 插八條32GB RAM就有256G了 但速度…… 困擾了很久，好像也沒什麼討論度 是不是這問題太蠢了所以沒什麼人討論workaround呢 還是真的只能用錢堆了 ----- Sent from JPTT on my Asus ASUS_Z01KDA. --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.114.83 ※ 文章網址: https://webptt.com/m.aspx?n=bbs/DataScience/M.1541248547.A.51F.html