PC_Shopping 板


LINE

要跑本地AI勸要組的,快打消念頭, 除非你是專門實驗室有專題需求,或是有特殊用途。 先說我的配備 CPU AMD RYZEN 9950 主板 ASUS CROSSHAIR X870E HERO RAM Kingston furry beast ddr5 5600 32g x2 crucial pro ddr5 6000 32g x2 共128g ssd 美光 T500 2tb 顯示卡 GIGABYTE GAMING OC 5090 GIGABYTE 4070TIS 16G 共48G VRAM 兩台螢幕用舊的不算錢 跑 GPT_OSS 120B 慢但可接受 QWEN 30B_A3B慢可接受 Deepseek 70b 更慢比gpt-oss 120b 稍快 你問每秒幾tokens? 有時候thinking時間很久到二三十秒,所以token數應該不準 重點是我有perplexity輸出的速度和內容品質,一個天一個地,遠超懶叫比雞腿的程度, 這台我都找最便宜管道德亞,淘寶,momo,pchome, 總共16萬多不含螢幕,效果普普,16萬元訂閱一個個人帳號用幾年自己算吧? 用到gpu換了三代還用不完,以上 http://i.imgur.com/rINqn3E.jpg ----- Sent from JPTT on my Samsung SM-S7110. --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.237.186.169 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1758689168.A.E0C.html
1F:→ pcfox: 別再回廢文了 對方的問題就是沒錢 36.231.86.26 09/24 12:57
2F:→ linzero: 他說記憶體共享能跑LLM 13B,以及SD 2K圖 36.230.166.50 09/24 12:58
3F:推 kaj1983: 現在跑AI就是燒錢,沒錢就別想東想西 218.166.18.159 09/24 13:04
4F:→ newyorker54: 這片主板無法偵到用pcie延長線的5090 36.237.186.169 09/24 13:06
5F:→ newyorker54: 有人知道為什麼嗎?本來還想用延長線 36.237.186.169 09/24 13:06
6F:→ newyorker54: 裝第二塊5090只好打消念頭 36.237.186.169 09/24 13:06
7F:→ newyorker54: 倒是4090tis用延長線怎麼裝都可以用 36.237.186.169 09/24 13:07
8F:→ newyorker54: ,懷疑是主板bios不支援 36.237.186.169 09/24 13:07
9F:推 popbitch: 他有說是跑輕度AI,只是不知道是多輕度 114.47.40.73 09/24 13:15
10F:推 lordmi: 雖然你回得很努力,但他的所謂輕度AI恐怕 223.137.205.94 09/24 13:23
11F:→ lordmi: 只是AIGC應用。換言之他根本不會管Token 223.137.205.94 09/24 13:23
12F:→ lordmi: 數也不想理解原理他只是希望別人告訴他是 223.137.205.94 09/24 13:23
13F:→ lordmi: 光他是神話他是電蝦板唯一的識貨人 223.137.205.94 09/24 13:23
14F:推 eddy13: 有些人就算5min出一張圖也可接受,重點是 114.137.86.166 09/24 13:25
15F:→ eddy13: 不受限地滿足自己的喜好呀XD 114.137.86.166 09/24 13:25
16F:→ linzero: 感覺所謂輕度AI玩家的想法,大概是因其他 36.230.166.50 09/24 13:26
17F:→ linzero: 需求組電腦。而沒用時就充分利用閒置資源 36.230.166.50 09/24 13:27
18F:→ linzero: 來跑AI,所以不是組電腦專門跑AI。所以AI 36.230.166.50 09/24 13:27
19F:→ linzero: 花費頂多是強升N卡以及電費吧 36.230.166.50 09/24 13:28
20F:→ linzero: 我也這樣想過 XD 36.230.166.50 09/24 13:29
21F:推 dos01: 說真的 這年頭也有一堆AI怪人 就只是跟AI210.209.164.247 09/24 13:59
22F:→ dos01: 尬聊 然後就說自己會跑AI了...210.209.164.247 09/24 13:59
23F:→ dos01: 然後就開始到處去說跑AI的需求很低很低...210.209.164.247 09/24 13:59
24F:→ dos01: 本質上也不是真的要AI幹嘛 就只是因為會跑210.209.164.247 09/24 14:00
25F:→ dos01: AI很潮 想讓別人覺得自己跑AI很厲害而已210.209.164.247 09/24 14:00
26F:→ reaturn: 問就是沒預算,然後要低價買到頂物218.166.145.173 09/24 14:02
27F:推 kuninaka: 除非要訓練自己的LLM,否則買訂閱最便宜 211.20.234.13 09/24 14:35
28F:噓 Koogeal: 這篇不用回浪費口水.還有人想偷渡除錯 125.227.172.24 09/24 14:40
29F:推 ElrosHsun: AI很適合這種人啊 都會回答你說的對你 27.247.166.3 09/24 14:40
30F:→ ElrosHsun: 講得真好你太棒了 話說連XMP 都搞不清 27.247.166.3 09/24 14:40
31F:→ ElrosHsun: 楚還那麼大聲的真的很少見 27.247.166.3 09/24 14:40
32F:推 meicon5566: 四樓偷渡除錯應該水桶一下 114.33.254.248 09/24 14:44
33F:→ kuseang: 原PO還推文偷渡除錯是怎樣223.137.100.132 09/24 15:05
34F:→ diabloque: 這是偷渡除錯吧... 101.10.162.160 09/24 15:09
35F:→ newyorker54: 水桶我,好嚴格,發表心得文也不行?120.114.249.100 09/24 15:12
36F:推 dos01: 主要是板規禁止發除錯文的部分啦 但稍微偷210.209.164.247 09/24 15:13
37F:→ dos01: 度一下 板主通常都是放過 不要太明目張膽210.209.164.247 09/24 15:13
38F:→ dos01: 就好210.209.164.247 09/24 15:13
39F:→ newyorker54: 也不用你們幫我除錯,我所有你們想到120.114.249.100 09/24 15:14
40F:→ newyorker54: 的方法我都用過了,電壓排線bios更新120.114.249.100 09/24 15:14
41F:→ newyorker54: ,設定我都用過了,問了原廠也沒答案120.114.249.100 09/24 15:14
42F:→ newyorker54: ,除錯?你們都不會是要除個雕?120.114.249.100 09/24 15:14
43F:→ newyorker54: 要就是換ws pro的板子和threadripper120.114.249.100 09/24 15:16
44F:→ newyorker54: cpu但我不想再動了120.114.249.100 09/24 15:16
45F:→ newyorker54: 我從dos3.1開始組電腦,自己就能找答120.114.249.100 09/24 15:19
46F:→ newyorker54: 案,隨便問問要水桶我?羨慕忌妒恨?120.114.249.100 09/24 15:19
47F:→ newyorker54: 如果不是經濟效益就會上伺服器了120.114.249.100 09/24 15:19
48F:推 dos01: 您激動了 我只是跟你說板規就是那樣寫而已210.209.164.247 09/24 15:22
49F:推 dos01: 然後PCDIY的問題本來就一堆玄學 從零件本身210.209.164.247 09/24 15:24
50F:→ dos01: 主板顯卡記憶體SSD都有可能搞你 甚至系統210.209.164.247 09/24 15:24
51F:→ dos01: 驅動軟體也都有可能有鬼210.209.164.247 09/24 15:24
52F:→ newyorker54: 對不起不是對您說,是對上面前幾樓忌120.114.249.100 09/24 15:24
53F:→ newyorker54: 妒的人說120.114.249.100 09/24 15:24
54F:→ newyorker54: 我不覺得這裡能得到答案,只是讓有想120.114.249.100 09/24 15:26
55F:→ newyorker54: 這樣接5090的知道沒辦法這樣做120.114.249.100 09/24 15:26
56F:→ Rust: 呃 其實會忌妒你電腦的人應該沒那麼多 123.241.91.165 09/24 15:26
57F:→ Rust: 這只是一台電腦而已 ... 123.241.91.165 09/24 15:27
58F:→ newyorker54: 真的沒什麼,還不到一台車的錢,人的120.114.249.100 09/24 15:28
59F:→ newyorker54: 心量真的很狹小120.114.249.100 09/24 15:28
60F:→ newyorker54: 本來想買6000 pro,看看跑那個鳥樣就120.114.249.100 09/24 15:29
61F:→ newyorker54: 算了120.114.249.100 09/24 15:29
62F:→ tshu: 手機跑chatgpt算輕度嗎? 59.126.229.192 09/24 15:33
63F:推 AISC: 因為5090 是5.0的線 61.218.232.18 09/24 15:41
64F:推 NX9999: 感謝,那還是訂閱AI服務比較快XD210.209.176.103 09/24 15:43
65F:推 wudishidove: 不是,你的vram根本撐不住120b,當然 111.82.163.222 09/24 16:33
66F:→ wudishidove: 覺得慢啊,用20b附近的速度還不錯吧 111.82.163.222 09/24 16:33
67F:→ newyorker54: ost20b, qwen3 30b moe, 32b都跑過, 36.237.186.169 09/24 16:36
68F:→ newyorker54: 32b 秒出,但是內容遠遠不及訂閱帳號 36.237.186.169 09/24 16:36
69F:→ newyorker54: 的內容 36.237.186.169 09/24 16:36
70F:→ newyorker54: 120b可以跑,在ddr5的系統記憶體一半 36.237.186.169 09/24 16:39
71F:→ newyorker54: 另一半它vram速度還不差,qwen 42b u 36.237.186.169 09/24 16:39
72F:→ newyorker54: ncensored內容也還不錯,速度尚可, 36.237.186.169 09/24 16:39
73F:→ newyorker54: 一個複雜問題大概五分鐘,輸出七到八 36.237.186.169 09/24 16:39
74F:→ newyorker54: 頁內容 36.237.186.169 09/24 16:39
75F:推 wudishidove: 這是肯定阿,訂閱的強度肯定比本地端 111.82.163.222 09/24 16:40
76F:→ wudishidove: 高,但是本地你用mcp去串whisper,就 111.82.163.222 09/24 16:40
77F:→ wudishidove: 能讓LLM幫你做影片懶人包,這東西就 111.82.163.222 09/24 16:40
78F:→ wudishidove: 不是訂閱ai可以做到的了 111.82.163.222 09/24 16:40
79F:→ wudishidove: 不過我是沒想到120b可以用一般ram能 111.82.163.222 09/24 16:41
80F:→ wudishidove: 跑,比我想像中強,謝啦 111.82.163.222 09/24 16:41
81F:→ newyorker54: pcie5.0的線用上了,bios 的dashboar 36.237.186.169 09/24 16:43
82F:→ newyorker54: d連device都沒有,這應該是華碩的鍋 36.237.186.169 09/24 16:43
83F:→ newyorker54: 或許明年出的板子抓的到,reddit上有 36.237.186.169 09/24 16:43
84F:→ newyorker54: 人說要對5090供電到700w以上有人延長 36.237.186.169 09/24 16:43
85F:→ newyorker54: 線的5090抓的到但沒說是哪塊板子 36.237.186.169 09/24 16:43
86F:→ newyorker54: 我用第二電源跳線接5090一樣沒有所以 36.237.186.169 09/24 16:45
87F:→ newyorker54: 我認為主板的問題很大 36.237.186.169 09/24 16:45
88F:→ newyorker54: 對5090用原廠給8pin4對一供電應該有 36.237.186.169 09/24 16:47
89F:→ newyorker54: 足700w也無解,我不認為這裡有人能解 36.237.186.169 09/24 16:47
90F:→ newyorker54: 這bug 36.237.186.169 09/24 16:47
91F:噓 CrackedVoice: 偷渡就是偷渡什麼好嚴格220.135.181.207 09/24 16:50
92F:推 lordmi: 用主記憶體卸載VRAM滿出來的模型會卡在pci 36.229.100.51 09/24 16:56
93F:→ lordmi: 加上雙通道6000能擠出120Gb/s就很好了 36.229.100.51 09/24 17:01
94F:→ lordmi: 5090可是1790Gb/s GDDR7,差太多了 36.229.100.51 09/24 17:02
95F:噓 diabloque: 多加一句有什麼線推薦嗎?之類就沒事 101.10.162.160 09/24 17:57
96F:→ diabloque: 的小事情,版規就在那裡,自己踩線還 101.10.162.160 09/24 17:57
97F:→ diabloque: 放地圖砲指責都是別人故意逼迫嫉妒, 101.10.162.160 09/24 17:57
98F:→ diabloque: 歐對還有小心眼,這種心得文還是放自 101.10.162.160 09/24 17:57
99F:→ diabloque: 己高貴的電腦裡慢慢自己看吧。 101.10.162.160 09/24 17:57
100F:推 vig077: 有時候裝死比解釋一堆強多了== 1.34.181.77 09/24 18:06
101F:→ fantasystar: 人家搞不好想玩 uncensored llm 啊~ 61.220.35.170 09/24 18:23
102F:→ gameguy: 誰買誰盤子,笑你223.137.170.186 09/24 19:00
103F:→ fantasystar: 對了,不確定樓主知不知道,gpt-oss 118.167.150.91 09/24 20:06
104F:→ fantasystar: 預設 reasoning effort 是medium,覺 118.167.150.91 09/24 20:06
105F:→ fantasystar: 得想太久的話可以調成 low 118.167.150.91 09/24 20:06
106F:→ HAhuman: 請問上面哪個推文有羨慕忌妒的文句? 36.229.166.12 09/24 20:21
107F:噓 DsLove710: 笑死 除錯就是除錯 5090有啥好忌妒? 36.239.2.153 09/24 20:39
108F:噓 cylinptt: 偷渡就偷渡,扣別人帽子是怎樣? 1.169.86.67 09/24 20:58
109F:噓 pcfox: 原來回廢文是來偷渡用的啊 欠桶 36.231.86.26 09/24 21:31
110F:噓 ketsuya: 人家也是好心提醒,結果回應真囂張呀 219.68.54.96 09/24 21:35
111F:→ Rust: 這串文章一個比一個抽象 101.10.85.91 09/24 22:02
112F:→ ack0011: 嚴不嚴格請洽版主,他會給你答案的 49.217.131.127 09/25 00:41
113F:→ labbat: 會抽象嗎,十分具體唄 106.1.243.242 09/25 00:51
114F:噓 KGSox: 就真的偷渡除錯 還能扯到忌妒? 一台電腦才 36.234.46.241 09/25 01:08
115F:→ KGSox: 16萬是要怎麼忌妒? 36.234.46.241 09/25 01:08
116F:噓 rickey1270: 兇啥 101.9.33.221 09/25 02:19
117F:推 quamtum: 你需要P5552A PCIe 5.0 協定分析儀看是在 61.230.19.242 09/25 07:02
118F:→ quamtum: 哪一層 61.230.19.242 09/25 07:02
119F:→ quamtum: 出錯 61.230.19.242 09/25 07:02
120F:推 quamtum: P5552PSWA Protocol Analyzer Traffic 61.230.19.242 09/25 07:07
121F:→ quamtum: Analysis Software可以錄封包,就知道是 61.230.19.242 09/25 07:07
122F:→ quamtum: 哪邊出錯 61.230.19.242 09/25 07:07
123F:推 slsamg7112: 先問有人知道為什麼,再說不用大家除220.132.168.119 09/25 08:15
124F:→ slsamg7112: 錯,我看了什麼220.132.168.119 09/25 08:15
125F:噓 slsamg7112: 按錯補噓220.132.168.119 09/25 08:17
126F:噓 meicon5566: 前面問為什麼,後面嗆不用你們幫我除 114.33.254.248 09/25 08:17
127F:→ meicon5566: 錯XDDDDDDDDDDDDDDDDDDDDDD 114.33.254.248 09/25 08:17
128F:噓 Koogeal: 再噓一個.奇文共賞 59.115.13.185 09/25 09:06
129F:→ x94fujo6: 直插能用 延長就不能 問題在哪好難 114.33.176.49 09/25 09:19
130F:噓 kuseang: 跟你講規則變成嫉妒你 你也太看得起自己 114.136.149.69 09/25 10:07
131F:→ kuseang: 了吧 114.136.149.69 09/25 10:07
132F:推 DonDonFans: 又一個神人 49.215.242.90 09/25 10:15
133F:噓 sses40713: 哈哈 61.218.213.164 09/25 10:18
134F:噓 eddy13: 是不是到了AI時代,講話邏輯就不重要了? 114.137.86.166 09/25 10:47
135F:推 chinesechang: 笑死,用5090就自high別人忌妒他了 106.64.104.195 09/25 12:00
136F:→ chinesechang: ,你5090是法拉利嗎? 106.64.104.195 09/25 12:00
137F:噓 frank90619: 有人知道為什麼嗎? 下面 我不覺得這 49.216.90.75 09/25 12:01
138F:→ frank90619: 裡能得到答案 大家都羨慕嫉妒我的16 49.216.90.75 09/25 12:01
139F:→ frank90619: 萬電腦 49.216.90.75 09/25 12:01
140F:噓 DsLove710: 路過看到還沒刪文再來噓一次 好嫉妒喔 223.139.29.57 09/25 12:28
141F:噓 rickz008: 處錯就算了,這態度真的不敢恭維 111.71.92.226 09/25 15:38
142F:噓 higali: 偷渡就偷渡,是在嘴硬什麼 223.143.229.4 09/25 16:31
143F:噓 higali: 沒想到又釣出一個神人,廢文+1 223.143.229.4 09/25 16:56
144F:→ skyrain1234: 一看又是柵欄仔嘿嘿 106.1.186.50 09/26 00:48
145F:推 skyrain1234: http://i.imgur.com/qJ5td2I.jpg 61.218.134.131 09/26 08:40
146F:推 waynechen251: 除了資安角度想不到任何個人自建ai223.138.155.189 09/26 12:55
147F:→ waynechen251: 的好處223.138.155.189 09/26 12:55
148F:推 swich45314: 查查看共地 兩個電供的接地接在一起 223.140.83.35 10/06 18:19
149F:→ swich45314: 但我不確定pc是否可以這樣搞 巴哈有 223.140.83.35 10/06 18:19
150F:→ swich45314: 人一台電腦接兩張6000 pro可以去那邊 223.140.83.35 10/06 18:19
151F:→ swich45314: 看看怎麼做到的 話說也不建議用5090 223.140.83.35 10/06 18:19
152F:→ swich45314: 跑comfyui? 223.140.83.35 10/06 18:19







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:iOS站內搜尋

TOP