作者pennyleo (今朝有酒今朝醉)
看板Gossiping
標題[問卦] 想問架設本地ai主機的經驗
時間Sat Apr 18 20:38:21 2026
想請教
架設本地ai主機
同樣的硬體規格，用win和ubuntu
在跑「記憶體滿載」的模型時，能處理的規模
真的有「明顯」的差距嗎？
還是其實根本沒什麼差？
因為用linux架，真的有些麻煩
所以有點想乾脆之後用win就好了…
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.251.94 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Gossiping/M.1776515903.A.627.html
1F：→ kissmickey: 其實拿十年前電腦也可以跑啦 123.192.80.187 04/18 20:41
2F：→ kissmickey: 速度慢了點 你吃完泡麵才可能跑出結果 123.192.80.187 04/18 20:41
3F：推 zeumax: 差很微小，Win會多吃1Gb rax，但Linux對 39.10.72.92 04/18 20:42
4F：→ zeumax: 顯卡支援其實沒有Win好，一來一往沒差別 39.10.72.92 04/18 20:42
5F：→ zeumax: 會有差是你有特規去調，你自用簡單點 39.10.72.92 04/18 20:43
6F：→ zeumax: 輝達是不打算去支援Linux系調校的，除非你 39.10.72.92 04/18 20:45
7F：→ zeumax: 技術力夠，而且靠這吃飯，不然別浪費時間 39.10.72.92 04/18 20:45
8F：→ kissmickey: 一些延伸的東西win還是差了些 123.192.80.187 04/18 20:45
9F：→ pennyleo: Zeu，所以是不是如果類似主板和顯卡記 114.136.251.94 04/18 20:45
10F：→ pennyleo: 憶體共用的那種主機，只要記憶體夠大， 114.136.251.94 04/18 20:45
11F：→ pennyleo: Linux的優勢就消失了，是嗎 114.136.251.94 04/18 20:45
12F：推 tetani: 個人用戶只能選小一點的模型 61.227.193.121 04/18 20:46
13F：→ froce: AI吃滿的是顯存吧？除非你用核顯。 61.224.167.247 04/18 20:47
14F：→ froce: 然後Linux可以用console模式部署， 61.224.167.247 04/18 20:47
15F：→ froce: 理論上是可以省GUI佔用的顯存 61.224.167.247 04/18 20:47
16F：噓 freeunixer: 搞那麼久結論是你不配搞 ai,玩沙去吧 60.250.90.238 04/18 20:50
17F：→ freeunixer: 錢砸下去,買台 128g ram,1t ssd 的MAC 60.250.90.238 04/18 20:51
18F：噓 poqwiuer: 乖乖用Mac Studio 42.72.245.208 04/18 20:53
19F：推 zeumax: 你是個人電腦改工作站，就WSL2最方便部署 39.10.72.92 04/18 20:54
20F：→ zeumax: 理論上夠大優勢消失有點不太準確，因為你 39.10.72.92 04/18 20:55
21F：→ zeumax: 夠大搞伺服器的話，業界Ai伺服器多是Linux 39.10.72.92 04/18 20:55
22F：→ zeumax: 39.10.72.92 04/18 20:55
23F：→ johnhmj: 怎麼問谷哥欸哎都是回答用Linux ？ 49.216.93.140 04/18 20:55
24F：推 tetani: 128g的mac其實還是不夠 至少250g以上 61.227.193.121 04/18 20:56
25F：推 kimi112136: linux對顯卡支援度沒有win好？認真？111.250.210.231 04/18 21:15
26F：→ freeunixer: linux 的 nv driver 跟垃圾一樣啊 60.250.90.238 04/18 21:43
27F：→ reallurker: 看你要跑甚麼領域 RAM先插滿 散熱要好 118.165.68.230 04/18 21:45
28F：→ reallurker: 實驗用數據還是要工作站 118.165.68.230 04/18 21:46
29F：→ reallurker: 單兵個人平台戰力很有限 不要想太美好 118.165.68.230 04/18 21:46
30F：推 applejone: 跑參數多的很慢，跑參數少的很笨，上 118.231.193.83 04/18 21:47
31F：→ applejone: 下文窗口超吃記憶體，沒有幾百萬不要 118.231.193.83 04/18 21:47
32F：→ applejone: 玩 118.231.193.83 04/18 21:47
33F：推 kingstongyu: 所以AI的程式碼哪來的?! 1.168.139.146 04/18 22:16
34F：→ kingstongyu: 直接以做成硬體的方式進行學習及算出 1.168.139.146 04/18 22:18
35F：→ kingstongyu: 回答的回應?! 1.168.139.146 04/18 22:18