作者Balezo (Karma)
看板PC_Shopping
标题[请益] LLM 显卡选择
时间Tue Jun 10 17:39:38 2025
目前新电脑是 5060ti 16G 打游戏用
旧电脑(闲置)是
CPU intel 9900T
RAM 64G
VGA 3060 12G
想说闲置中 要考虑跑 AI 的话
请问再补一张 3060 12G (共两张)
会比 5060ti 16G 强吗 (主要是看能放得下多大的 model)
不会的话就... 考虑新电脑灌双系统
会的话可能就闲置的电脑再补一张 3060 12G 来跑
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.38.68.41 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1749548380.A.611.html
1F：推 promaster: 启动5090 101.10.244.223 06/10 17:45
2F：→ promaster: 12g塞不了甚麽模型 101.10.244.223 06/10 17:46
3F：→ Balezo: 想问双卡有没有搞头... 114.38.68.41 06/10 17:48
4F：→ Balezo: 不然不如等 DGX SPARK 114.38.68.41 06/10 17:49
5F：→ gainsborough: 强在一点，模型16G塞不下去时，不然 59.126.70.191 06/10 17:50
6F：→ gainsborough: 都输 59.126.70.191 06/10 17:51
7F：→ gainsborough: 另外多卡SD生图还是分别算图，所以 59.126.70.191 06/10 17:52
8F：→ gainsborough: 只生一张图的时候多卡跟单卡一样 59.126.70.191 06/10 17:52
9F：推 promaster: 双卡没搞头 没办法pool memory 101.10.244.223 06/10 17:53
10F：→ promaster: 卖掉贴补新卡吧 101.10.244.223 06/10 17:54
11F：推 Nilife: 用过w11+ubuntu 双系统超难用 101.9.194.247 06/10 17:56
12F：→ Nilife: 最後直接纯ubuntu 开虚拟机windows了 101.9.194.247 06/10 17:56
13F：→ gainsborough: 另外主板两个pcie*16都CPU跑*8跟一 59.126.70.191 06/10 17:56
14F：→ Nilife: 重开机换系统的时候grub会一直卡住 101.9.194.247 06/10 17:56
15F：→ gainsborough: 个cpu直出跑16+南桥的pcie，跑起来 59.126.70.191 06/10 17:56
16F：→ gainsborough: 反应时间不一样，後者不推 59.126.70.191 06/10 17:57
17F：推 trader987: 可以用Glows.ai 直接线上跑223.139.188.215 06/10 18:04
18F：推 jimwithsc: 第三季英特尔好像要出b60111.249.129.222 06/10 18:11
19F：→ jimwithsc: 单卡记忆24g然後400多镁111.249.129.222 06/10 18:12
20F：推 FreedomTrail: 双卡又没nvlink…..直接用云服务可 1.169.235.18 06/10 18:14
21F：→ FreedomTrail: 能比较省事，不然要模型塞得进单卡 1.169.235.18 06/10 18:14
22F：→ FreedomTrail: vram（好点的显卡或小模型）还是用 1.169.235.18 06/10 18:14
23F：→ FreedomTrail: ram/vram共用架构（project digit 1.169.235.18 06/10 18:14
24F：→ FreedomTrail: 或apple silicone)，或aidaptive + 1.169.235.18 06/10 18:14
25F：→ FreedomTrail: 。 1.169.235.18 06/10 18:14
26F：→ vsbrm: AI MAX 395迷你电脑大概14k RMB ，vram能到 42.77.3.187 06/10 18:18
27F：→ vsbrm: 96 GB，可以先去B站看一下优缺点分析 42.77.3.187 06/10 18:18
28F：→ chang1248w: dgx spark在开预购单了 42.72.220.178 06/10 18:18
29F：→ Balezo: 了解 来研究看看。不过 DGX台湾好像还没看 114.38.68.41 06/10 18:24
30F：→ Balezo: 到预购消息... 114.38.68.41 06/10 18:24
31F：→ nthank: 双系统中的不如开虚拟机，除非你要玩valo 27.53.8.101 06/10 18:24
32F：→ nthank: rant，这游戏不能在虚拟机里玩 27.53.8.101 06/10 18:24
33F：→ Balezo: 说到双系统 我之前的确是用 ubuntu + win 114.38.68.41 06/10 18:26
34F：→ Balezo: VM XD... 114.38.68.41 06/10 18:26
35F：→ Transposon: AI MAX或 Mac mini黄金RAM升满118.171.218.146 06/10 18:27
36F：→ Balezo: 看起来好像真的是统一记忆体最有 cp 值 114.38.68.41 06/10 18:28
37F：推 smallreader: 统一记忆体 优:装得下 缺:处理器慢 36.237.111.119 06/10 18:39
38F：→ smallreader: 所以也没有CP值 要是内显+记忆体灌满 36.237.111.119 06/10 18:42
39F：→ smallreader: 就能打独显了 RTX6000还要卖吗 36.237.111.119 06/10 18:42
40F：推 a206471: 唯一选择RTX PRO 6000 49.159.4.195 06/10 18:49
42F：→ a71245969: 双卡会比单卡慢一点喔 跟模型大小、pci 101.12.145.197 06/10 18:55
43F：→ a71245969: e通道数、最慢显卡拖後腿都有关系 101.12.145.197 06/10 18:55
44F：推 yenchieh1102: 你不如......先跑，跑了就知道缺哪 49.218.209.122 06/10 19:03
45F：→ yenchieh1102: 补哪 49.218.209.122 06/10 19:03
46F：→ jkiu: 不划算，新显卡花的钱改用在api上都不知道可 101.10.157.241 06/10 19:12
47F：→ jkiu: 以用几年了，可用的模型还强的多 101.10.157.241 06/10 19:12
48F：推 Supasizeit: 请教跑本地LLM有什麽好处203.204.195.174 06/10 19:26
49F：推 swad292pn: 隐私 123.240.70.241 06/10 19:27
50F：推 KimomiKai: Pro 6000现在跟我讲要排到8月9月 36.237.171.188 06/10 19:28
51F：推 Supasizeit: 那还不如租h200 一小时2美金203.204.195.174 06/10 19:30
52F：推 NormalRay: 只跑LLM不如直接open router储值118.170.143.147 06/10 19:43
53F：推 KimomiKai: 可以往阿婆那边买M3 Ultra或者便宜 36.237.171.188 06/10 20:00
54F：→ KimomiKai: 的M4 24GB 36.237.171.188 06/10 20:00
55F：推 t13243334: Spark台湾有开放npn排 有需要的可站内 42.75.223.50 06/10 20:08
56F：→ t13243334: Rtx pro 6000也可站内 42.75.223.50 06/10 20:08
57F：→ t13243334: 但一般人其实用mac 或ryzen AI比较划 42.75.223.50 06/10 20:10
58F：推 weiber82: 我串api比电费便宜，nano还比本地反应快 49.214.10.231 06/10 20:54
59F：→ weiber82: ，尴尬 49.214.10.231 06/10 20:54
60F：推 Boston: 考虑 5060 ti 16g +1 跑 ai 生图 114.24.26.168 06/10 21:22
61F：推 kamir: Core 2 T9900? 123.195.78.164 06/10 21:47
62F：推 saito2190: 这时间点应该是DGX SPARK直接买下去 1.161.147.209 06/10 22:23
63F：→ saito2190: 那个价格能跑200B大模型 秒杀所有RTX 1.161.147.209 06/10 22:23
64F：推 TameFoxx: 能跑跟跑得快是两回事 你以为真有那麽爽 219.68.125.23 06/10 22:50
65F：→ TameFoxx: 买Spark不如买5090 219.68.125.23 06/10 22:52
66F：推 seemoon2000: 那个只是跑得动而已 真的要拿来应用 220.137.9.222 06/10 23:57
67F：→ seemoon2000: 还是离很远的程度 220.137.9.222 06/10 23:57
68F：推 guanting886: Ollama玩一玩就好了 42.78.143.117 06/11 00:40
69F：→ guanting886: 跑大量资料跑久了会进幻觉 还会乱码 42.78.143.117 06/11 00:40
70F：→ guanting886: 串OpenAI大部分你会遇到的问题人家 42.78.143.117 06/11 00:41
71F：→ guanting886: 解决了 42.78.143.117 06/11 00:41
72F：推 guanting886: DGX Spark就是可预期的到大概就抢不 42.78.143.117 06/11 00:45
73F：→ guanting886: 到QQ 42.78.143.117 06/11 00:45
74F：→ pxhome: 启动5090+1 36.230.134.148 06/11 15:46
75F：推 Supasizeit: 5090也只能跑一秒5 token是要怎麽用203.204.195.174 06/11 23:33