作者Luxus (奢望)
看板PC_Shopping
标题[请益]AI大模型记忆体不足，市面上128G RAM?
时间Sun Aug 31 10:25:37 2025
各位前辈大家好:
老弟又又又又又来打扰大家了(真不是洗文)
是这样的，自从我可爱的新电脑启动组完後，经过多次尝试(干你的GROK 不跟我说直接下.GGUF的类型就好，让我下载.safetensors类型，害我浪费了好多天)
然後昨天好不容易DeepSeeK V3.1 Q4版本下载完，开始要运行起来时，就给我出现:
Error: 500 Internal Server Error: model requires more system memory (326.4
GiB) than is available (252.3 GiB)
就是记忆体不足，经过多番尝试，最後只能无奈用较低版本的Q3L，想了一下後，觉得钱都在花了，要不乾脆把两条64G换成两条128G的，在加两条64也有考虑，但这样好像不太好
但是刚刚上了实价屋的网站查了一下，似乎没有128G单条的，然後又去对岸的掏粪上查，是有的，但老弟我对这方面较不熟悉，不知道各位有甚麽推荐的品牌型号吗?
谢谢各位
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 122.100.85.163 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1756607139.A.484.html
1F：→ sachialanlus: 你有算过即使真的跑得起来 速度比你150.117.132.227 08/31 10:29
2F：→ sachialanlus: 可以接受吗？150.117.132.227 08/31 10:29
3F：→ spfy: 单条128就算中国品牌也不多吧 很多能选吗? 39.10.65.34 08/31 10:30
4F：→ d0178411: 好像鬼岛没啥地方卖吧 218.166.6.130 08/31 10:35
是阿 我们国内真找不到~XD
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 10:38:27
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 10:38:49
5F：推 aabbcc840526: U DIMM目前颗粒最大应该就32Gb所以 118.233.240.7 08/31 10:49
6F：→ aabbcc840526: 两面最多64GB, 如果你要128那就是 118.233.240.7 08/31 10:49
7F：→ aabbcc840526: 要3DS(一种可以塞两个或以上晶片的 118.233.240.7 08/31 10:49
8F：→ aabbcc840526: 技术), 成本较高所以极少厂商愿意 118.233.240.7 08/31 10:49
9F：→ aabbcc840526: 出这种产品,这种技术目前仅大规模 118.233.240.7 08/31 10:49
10F：→ aabbcc840526: 应用server市场而已 118.233.240.7 08/31 10:49
11F：推 aabbcc840526: 另一条路就是跟server一样用x4颗粒 118.233.240.7 08/31 10:53
12F：→ aabbcc840526: （这样可以多贴一倍的颗粒）,但一 118.233.240.7 08/31 10:53
13F：→ aabbcc840526: 样我不确定PC市场有没有人出这种产 118.233.240.7 08/31 10:53
14F：→ aabbcc840526: 品 118.233.240.7 08/31 10:53
掏粪上有看到在卖 之前FB好像也有看到介绍 但是我们国内就好像一直没找到~那如果插4条64G是否也是能考虑的方案呢?
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 10:55:36
15F：→ chenzu740125: 让我想到8299董狂吹adaptive.不过这 111.82.54.96 08/31 11:00
16F：→ chenzu740125: 是笑话XD 111.82.54.96 08/31 11:00
17F：推 widec: 现在主板支援的单支DIMM上限是多少容量 1.165.18.58 08/31 11:02
奴家真的不知道~所以才上来请教各位前辈~
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 11:12:07
18F：推 smallreader: 别浪费时间搞这种 111.254.137.17 08/31 11:21
19F：→ smallreader: 单条DDR5现在是64G 支援度基本没问题 111.254.137.17 08/31 11:21
20F：→ smallreader: 两条就128 四条就256 但笔电型就两条 111.254.137.17 08/31 11:22
我是台式机 上上周刚启动完5090~组好使用中
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 11:24:03
21F：→ smallreader: 64G也是今年刚出的 没有更高容量了 111.254.137.17 08/31 11:24
22F：→ jkiu: 先撇开龟速问题，想跑这麽大的模型不该用家 49.216.161.232 08/31 11:26
23F：→ jkiu: 用主机板，要用上伺服器用的，光记忆体插槽 49.216.161.232 08/31 11:26
24F：→ jkiu: 跟pcie插槽就可以多出很多条 49.216.161.232 08/31 11:26
25F：推 ttmm: 去用云端...不要本地跑啦 111.243.8.229 08/31 11:27
感谢大大指教 是我想得少了~ 那请问现在弥补的方式 我若加上两条64的可行吗?
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 11:28:17
26F：→ smallreader: 要不要试试看swap到optane来增加容量 111.254.137.17 08/31 11:28
27F：→ smallreader: 速度可能会降好几倍 但至少容量够(x 111.254.137.17 08/31 11:29
28F：推 ziggs8308: deepseek 都忘记这个东西了 原来还有 42.72.89.9 08/31 11:29
29F：→ ziggs8308: 呼吸 爆红一个礼拜就直接消失 42.72.89.9 08/31 11:29
30F：推 pcfox: 问就直上Pro WS WRX90E-SAGE SE 36.231.103.105 08/31 11:31
31F：→ smallreader: 900P / 905P / DC 4800X / 5800X 111.254.137.17 08/31 11:34
32F：→ commandoEX: 买TR啊，4通道8DIMM频宽更高118.171.169.247 08/31 11:35
33F：推 odanaga: 905p还买的到吗？ 42.70.31.206 08/31 11:35
34F：→ odanaga: 上次新蛋300美买一个 太美了 42.70.31.206 08/31 11:36
35F：推 Lightee26: 普通板子有支援单条128？ 1.169.206.33 08/31 11:38
36F：推 benen: 其实我也蛮好奇www家用这样用起来速度真的 101.9.98.234 08/31 11:41
37F：→ benen: ok吗？ 101.9.98.234 08/31 11:41
STABLE DIFFSTION 改5090後用起来是真有感 出图快了很多~
38F：推 bunjie: 我觉得如果AI模型只是玩票性质的话 就线 182.155.197.16 08/31 11:46
39F：→ bunjie: 上租一租就好 高阶机当作打电动舒压用 182.155.197.16 08/31 11:46
40F：→ bunjie: 其实AI模型现在也差不多饱和了 卷成那样 182.155.197.16 08/31 11:47
41F：→ bunjie: 等应用就好 182.155.197.16 08/31 11:47
42F：→ bunjie: 现在进场想要玩出什麽新花样 其实蛮难的 182.155.197.16 08/31 11:48
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 11:50:10
43F：推 ttmm: 你有灌 linux? 111.243.8.229 08/31 11:54
44F：→ jkiu: 留着打电动跟生生玩票性质的图就好，这麽大 36.224.160.202 08/31 12:00
45F：→ jkiu: 的模型本地想跑q4跟速度可以接受~20tps，预 36.224.160.202 08/31 12:00
46F：→ jkiu: 算先x3,x4，但花这麽多钱还只不过买api来用 36.224.160.202 08/31 12:00
47F：→ jkiu: 效果 36.224.160.202 08/31 12:00
48F：推 kanding255: 要不要试试 virtual memory 只是效果 49.217.126.242 08/31 12:03
49F：→ kanding255: 不知道是不是你要的 49.217.126.242 08/31 12:03
50F：→ newforte: 买虚拟机 要多大有多大 106.1.219.206 08/31 12:07
51F：→ game0502: 上机架2-4U的24条随便你插还能上显卡 220.133.127.4 08/31 12:12
52F：→ sino6445: 讨论板不要用太不雅的字，即使是吃饭饭123.195.160.154 08/31 12:13
53F：→ sino6445: 时看到也很不舒服，即使是中国品牌，把123.195.160.154 08/31 12:13
54F：→ sino6445: 别人品牌用ㄈㄣˋ这个字，只是贬低自己123.195.160.154 08/31 12:13
55F：→ sino6445: 忘了给嘘123.195.160.154 08/31 12:13
56F：推 Ron51320: 弄些虚拟的跑跑看，骗不过吗？ 101.10.238.253 08/31 12:18
57F：推 pxhome: DDR5 5600 64GB一条5000两条1万 101.12.146.195 08/31 12:23
58F：→ pxhome: 128GB 只有eco但你的主机板不支援 101.12.146.195 08/31 12:24
59F：→ pxhome: DDR5 ECC的脚位不一样了 101.12.146.195 08/31 12:25
60F：→ pxhome: 原来对岸来的小弟弟不知道有咸鱼 101.12.146.195 08/31 12:28
我是不知道您用了多少次咸鱼，依我在上海住了7年的经验来说 咸鱼比拚夕汐还坑 平常买些无关紧要的还行 高价的东西不敢在上面买
61F：→ widec: 我也觉得等应用就好 1.165.18.58 08/31 12:42
62F：推 camry2338y: 一般家用的主机板 ram最高就支援到25 111.71.9.9 08/31 12:45
63F：→ camry2338y: 6G 就算你的到也还是不够啊 111.71.9.9 08/31 12:45
64F：→ linkt0: d4几年前就装过128g*4=512g 标256g参考用 223.136.170.24 08/31 12:56
65F：→ linkt0: udimm 128g*4 223.136.170.24 08/31 12:56
66F：→ linkt0: x99时代ram还被小石头rd借去改bios 223.136.170.24 08/31 12:59
67F：推 lordmi: 最近被问到烦了刚好写过一篇到底什麽硬体223.136.238.116 08/31 13:05
69F：→ lordmi: 25/08/2025ai 不过我还是建议你真的没必223.136.238.116 08/31 13:05
70F：→ lordmi: 要跑localA I除非你的预算有300k以上223.136.238.116 08/31 13:05
71F：→ nrsair: 插四条 49.217.195.125 08/31 13:14
72F：→ narukaza: 这还不简单，直接换主板CPU，WRX90+999 114.34.174.204 08/31 13:19
73F：→ narukaza: 5WX，插满8条64G跑6000轻轻松松 114.34.174.204 08/31 13:19
74F：→ narukaza: 两条128G都要快60K了，真能用你会买？ 114.34.174.204 08/31 13:25
76F：→ DrGun: 对岸腾讯玄武实验室发在微信上der实测文章118.168.245.126 08/31 13:37
77F：→ DrGun: 标题：「不到 4 万元的 DeepSeek-R1-671B-Q118.168.245.126 08/31 13:37
78F：→ DrGun: 8 部署方案」 这边4万4人民币 实际总花费35118.168.245.126 08/31 13:37
79F：→ DrGun: 686 rmb 这篇der重点4纯粹用Amd Epyc 9005118.168.245.126 08/31 13:37
80F：→ DrGun: 系列cpu搞一台local ai 峰值生成速度 7.17118.168.245.126 08/31 13:37
81F：→ DrGun: tokens/s 已经在可用范围der下限 连结点进118.168.245.126 08/31 13:37
82F：→ DrGun: 去有实际运行影片 尼如果换成Q4 der话token118.168.245.126 08/31 13:37
83F：→ DrGun: 数大概直接变乘以2 记忆体容量可以再减 预118.168.245.126 08/31 13:37
84F：→ DrGun: 算更省 有机会压在10万台币以下118.168.245.126 08/31 13:37
85F：→ linzero: 目前一版主板是64*4=256G吧，不过9950X3D 36.228.126.250 08/31 13:38
86F：→ linzero: 上限好像是192G，Win11家用版是128G 36.228.126.250 08/31 13:38
87F：→ lhhjimmy: 不知道有没有人玩过CXL 42.70.191.223 08/31 13:45
88F：→ lhhjimmy: 前提是主机板/CPU要support 42.70.191.223 08/31 13:45
89F：→ rasen9: 没 我9950x3d icu285k都插过4条64没问题126.179.104.115 08/31 14:43
90F：推 skywgu: 有隐私需求本地ai还是有市场啦 49.218.145.250 08/31 14:53
91F：推 E7lijah: AMD官网标示7000/9000只支援128/192GB， 27.240.224.143 08/31 15:05
92F：→ E7lijah: 是因为发售时的记忆体只出到单条32/48GB 27.240.224.143 08/31 15:05
93F：→ E7lijah: 或已经出了更大的容量但还来不及验证 27.240.224.143 08/31 15:05
94F：推 s900527: 一堆人在那边api就是完全不懂本地的好 61.227.240.64 08/31 15:05
95F：→ s900527: 速度更不是重点 放着给他跑就好了急什麽 61.227.240.64 08/31 15:06
96F：→ E7lijah: 你要单条128GB要上RDIMM(不一定要3DS) 27.240.224.143 08/31 15:06
97F：→ E7lijah: RDIMM消费级平台不支援，要上到TR/EPYC 27.240.224.143 08/31 15:06
98F：→ E7lijah: 上面说DDR4 UDIMM 128GB的是哪条 27.240.224.143 08/31 15:10
99F：→ E7lijah: 有这种东西?? 27.240.224.143 08/31 15:10
100F：→ jkiu: 速度没到一个基本门槛根本不能日常用好吗， 36.224.160.202 08/31 15:22
101F：→ jkiu: 尤其现在一堆thinking的模型，光耗在思考里 36.224.160.202 08/31 15:22
102F：→ jkiu: 面就饱了，一来一回对答context越大处理越慢 36.224.160.202 08/31 15:22
103F：→ jkiu: ，更不能用，难道你要1x分钟对答一次这样用 36.224.160.202 08/31 15:22
104F：→ jkiu: 是吗... 36.224.160.202 08/31 15:22
105F：推 Supasizeit: 671b? 128G一样爆203.204.195.174 08/31 15:28
106F：推 Supasizeit: 跑oss:20b 在处理一些像档案整理或打203.204.195.174 08/31 15:31
107F：→ Supasizeit: 屁聊天就很好用了203.204.195.174 08/31 15:31
108F：推 ByPass128: Q4大概还要400G，建议换个模型 223.23.8.184 08/31 15:41
109F：→ ByPass128: 你可以先弄个gptoss120b启动看看效果 223.23.8.184 08/31 15:41
110F：→ ByPass128: ，不行再往下尝试20b版本的 223.23.8.184 08/31 15:41
111F：推 ttmm: 认真说花钱把各大平台的额度用光还比较省 111.243.8.229 08/31 15:45
112F：推 dreamelf: 先用云再买GB10 42.70.181.108 08/31 15:52
113F：→ linkt0: 标限制实际装机测就知道标好玩的win7时代 125.229.73.212 08/31 15:59
114F：→ linkt0: 就装过.. goog资料中心拿出来玩的东西上 125.229.73.212 08/31 15:59
115F：→ linkt0: 网搜都搜不到 一颗ssd就一台国产车价 125.229.73.212 08/31 15:59
116F：推 jhjhs33504: gptoss20b就很好tool calling了但就是 36.228.18.238 08/31 16:25
117F：→ jhjhs33504: 调整还不够稳定120b最近两版ollma OOM 36.228.18.238 08/31 16:27
118F：→ jhjhs33504: 不然virtual memory可以跑 但就慢很多 36.228.18.238 08/31 16:28
119F：推 jhjhs33504: 安全一些的tool calling 要预留记忆体 36.228.18.238 08/31 16:44
120F：→ Layase: 别想了 你组不赢人家商用server的111.241.121.102 08/31 17:04
121F：推 WJAider: 你这就是想改造 BB 枪问怎麽像真枪 114.36.92.122 08/31 17:06
122F：→ WJAider: 方向不对事倍功半，或是说钱倍功半? 114.36.92.122 08/31 17:10
确实 缺乏经验 本来就想着用SD出图 但是用了几天就开始发疯 想试试看AI~果然人心不足蛇吞象~XD
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 17:32:45
123F：→ soulgem: 671b, 想到之前拚老命才装出来 512G RAM 140.112.30.184 08/31 17:43
124F：→ soulgem: 先有 256G ECC/Reg, 後来才找到 64x8... 140.112.30.184 08/31 17:44
125F：→ soulgem: 这条路还是难得通 # TR-39x5 + 8条RDIMM 140.112.30.184 08/31 17:45
126F：→ soulgem: 下一台想要 1T... 完全看不到希望的 XD 140.112.30.184 08/31 17:46
127F：推 jhjhs33504: 用CPU跑量化版还得是Q4或Q8 不然输GPU 36.228.18.238 08/31 17:50
128F：→ jhjhs33504: 商用server就选TPU平台 性价比才会高 36.228.18.238 08/31 17:51
129F：→ soulgem: 8支128G怎麽看都超过这次拚出来的总花费 140.112.30.184 08/31 17:51
130F：→ soulgem: 捡二手 server 不是条好学的路... 140.112.30.184 08/31 17:52
131F：→ soulgem: 就算走双Xeon的话要找得到16支64G也很难 140.112.30.184 08/31 17:54
132F：→ DrGun: 双cpu之前看有人实测 tokens/s狂降 比单cpu118.168.245.126 08/31 17:58
133F：→ DrGun: 还差 似乎跨cpu通信有问题 A和I 都有同样症118.168.245.126 08/31 17:58
134F：→ DrGun: 头der样子118.168.245.126 08/31 17:58
135F：→ crimsonmoon9: 我记得双CPU主板大多支援只插一颗吧 42.72.79.117 08/31 18:05
136F：→ soulgem: 只插一颗 CPU 通常不能放满 16 支 RAM... 140.112.30.184 08/31 18:13
137F：→ DrGun: 目前观察搞纯cpu local ai机 硬体零件之重118.168.245.126 08/31 18:26
138F：→ DrGun: 要性 从最重要der开始排：1. Ram容量（必须118.168.245.126 08/31 18:26
139F：→ DrGun: 大於模型size 否则免玩）2. Ram速度 3. CPU118.168.245.126 08/31 18:26
140F：→ DrGun: 核心数和时脉118.168.245.126 08/31 18:26
141F：推 doraBBO: 可不可以问个问题，美光128G跟金士顿64G220.135.116.169 08/31 18:59
142F：→ doraBBO: 效能实际上会落差很大吗？想要高容量220.135.116.169 08/31 18:59
143F：→ doraBBO: 但又怕效能拉垮太多，还是体感还好?!220.135.116.169 08/31 18:59
144F：→ yunf: 你要多大的有多大的？台湾业务都可以谈，只 101.10.162.217 08/31 19:00
145F：→ yunf: 要你有钱 101.10.162.217 08/31 19:00
146F：→ yunf: 主机板相容性：128GB单条RAM多数为伺服器专 101.10.162.217 08/31 19:02
147F：→ yunf: 用，需确认主机板支援DDR4 ECC LRDIMM/RDIMM 101.10.162.217 08/31 19:02
148F：→ yunf: ，普通桌机板无法安装。 101.10.162.217 08/31 19:02
149F：推 doraBBO: 抱歉 没说清楚 AM5有支援到128G220.135.116.169 08/31 19:07
150F：→ doraBBO: 金64G 6000 30CL VS 美光128G 5600 46CL220.135.116.169 08/31 19:07
151F：→ doraBBO: 目前是模拟器多开，一定是选後者220.135.116.169 08/31 19:07
152F：→ doraBBO: 但如果以後要到臭打游戏玩点其他的220.135.116.169 08/31 19:07
154F：→ doraBBO: 会不会因为时脉等因素，後者体验有落差220.135.116.169 08/31 19:08
155F：→ yunf: 要调吧 101.10.162.217 08/31 19:09
156F：推 AlvisBarhara: rdimm一般u不能用要注意 27.51.129.132 08/31 19:46
157F：→ AlvisBarhara: ryzen能用的是ecc udimm,比rdimm再 27.51.129.132 08/31 19:48
158F：→ AlvisBarhara: 贵一截 27.51.129.132 08/31 19:48
159F：→ AlvisBarhara: 另外板子也有差,am5只有大小石的板 27.51.129.132 08/31 19:52
160F：→ AlvisBarhara: 子有lay ecc线路,mg的花大钱买ecc 27.51.129.132 08/31 19:52
161F：→ AlvisBarhara: udimm也没用 27.51.129.132 08/31 19:52
162F：推 smallreader: rdimm TR也不能用 要上TR pro 111.254.137.17 08/31 20:20
163F：推 saiboos: 用云端GPU吧... 122.99.40.82 08/31 20:42
164F：推 Supasizeit: 又不是要解什麽数学难题 用671b干嘛203.204.195.174 08/31 21:44
165F：→ Supasizeit: 20b爽爽用203.204.195.174 08/31 21:44
166F：→ Supasizeit: 120b慢的要死 毫无用处203.204.195.174 08/31 21:45
我其实是用来辅助写武侠小说 目前看起来应该DEEPSEEK跟豆包文笔是最好的 GROK跟GPT都有点~~老外的味道 但是大家也知道 中国那边限制的比较严格 有时候有些话题他就没法显示(情色 暴力 血腥)所以才想说下个模型在电脑上用，AI辅助是真的方便，有时灵感卡住了，问一下，常常会给你一些意想不到的突破口
※ 编辑: Luxus (122.100.85.163 台湾), 08/31/2025 21:51:49
167F：推 TameFoxx: 用open web-ui 然後去串deepinfra的api 219.68.125.23 08/31 22:03
168F：→ TameFoxx: 基本上开源模型都有很多第三方供应商 219.68.125.23 08/31 22:03
169F：推 nextpage: 最後你还是会妥协付钱租API使用 :) 111.246.141.31 08/31 22:12
170F：→ TameFoxx: 事实上用API才合理 219.68.125.23 08/31 22:21
171F：→ TameFoxx: 因为你自己跑那麽大的模型 电费比API还 219.68.125.23 08/31 22:22
172F：→ TameFoxx: 贵 219.68.125.23 08/31 22:22
173F：嘘 E7lijah: TR就是用RDIMM 谁跟你TR也不能用 27.240.224.143 08/31 22:26
174F：→ linzero: 他要中文使用者的…味道跟绕开限制吧 36.228.126.250 08/31 22:27
176F：→ E7lijah: 然後AM5目前还没有支援单条128G的 27.240.224.143 08/31 22:31
177F：→ E7lijah: TR跟TR PRO在记忆体的差别是後者支援八通 27.240.224.143 08/31 22:42
178F：→ E7lijah: 道 27.240.224.143 08/31 22:42
179F：推 TameFoxx: 第三方的API就是已经绕过限制的 219.68.125.23 08/31 22:42
180F：→ E7lijah: 而前者只支援四通道 27.240.224.143 08/31 22:42
181F：嘘 DrGun: 腾讯der文章写说用EPYC 9115 Default TDP 1 223.137.93.235 08/31 22:45
182F：→ DrGun: 25W 没特别耗电 223.137.93.235 08/31 22:45
183F：→ DrGun: Local ai = 永久买断无额外付费 + 隐私无价 223.137.93.235 08/31 22:45
184F：推 jkiu: qwen 或 glm 也是中国的llm，模型小很多，本 36.224.160.202 08/31 22:48
185F：→ jkiu: 地跑比较合理，要不要先试试这两个的文笔看 36.224.160.202 08/31 22:48
186F：→ jkiu: 看，另外你在网上平台遇到的限制，自己载下 36.224.160.202 08/31 22:48
187F：→ jkiu: 来跑的多半也都有，除非有人另外做解禁版的 36.224.160.202 08/31 22:48
188F：→ jkiu: ，可能要多翻找看看huggingface 36.224.160.202 08/31 22:48
J大 我下载的应该就是解禁版..
189F：推 TameFoxx: 有没有特别耗电 你要用生成同样Token去 219.68.125.23 08/31 22:55
190F：→ TameFoxx: 比 219.68.125.23 08/31 22:55
191F：→ TameFoxx: 用CPU跑AI本身就是浪费电 219.68.125.23 08/31 22:55
192F：→ TameFoxx: 文章说可以到7 但这是短input的情况 219.68.125.23 08/31 22:56
193F：→ TameFoxx: 长input时能不能保1都不知道 219.68.125.23 08/31 22:56
194F：推 DrGun: 讲到解数学难题 Deepseek刚推出时有到官网 223.137.93.235 08/31 23:04
195F：→ DrGun: 拿工数考古题考它 印象中考了快10题 题目种 223.137.93.235 08/31 23:04
196F：→ DrGun: 类有ode pde 线代和证明 恐怖der来惹！计算 223.137.93.235 08/31 23:04
197F：→ DrGun: 它全部答对 唯一错der只有证明 而且基本上 223.137.93.235 08/31 23:04
198F：→ DrGun: 也8算全错 它只漏写惹一两个结果 同样der题 223.137.93.235 08/31 23:04
199F：→ DrGun: 目拿去问ChatGPT Claude Gemini根本8用看 223.137.93.235 08/31 23:04
200F：→ DrGun: 错der一踏糊涂！！ 223.137.93.235 08/31 23:04
201F：→ linzero: 有没有可能是资料库里有这些考古题？ 36.228.126.250 08/31 23:26
202F：推 Narok: 芝奇有出64gx4的256g一套的，我刚刚买了， 218.173.18.50 08/31 23:31
203F：→ Narok: 但是...会让你开机变慢，而且几乎用不到超 218.173.18.50 08/31 23:32
204F：→ Narok: 过100g 218.173.18.50 08/31 23:32
205F：→ DrGun: 可能把！ChatGPT之前也被爆说考前作弊偷看 223.137.93.235 08/31 23:33
206F：→ DrGun: 题目 只4还特别拿台湾der考古题去训练也太 223.137.93.235 08/31 23:33
207F：→ DrGun: 屌惹 有der还可能没电子档 223.137.93.235 08/31 23:33
208F：嘘 pikachu123: Mac studio 买一买就好 110.28.0.234 08/31 23:40
209F：推 doraBBO: 我刚刚用词不精确 应是32*2=64 64*2=128220.135.116.169 08/31 23:49
210F：→ doraBBO: 不是说单条64 128 抱歉220.135.116.169 08/31 23:49
211F：→ crimsonmoon9: 但是671B用CPU跑还要reasoning解出 42.72.79.117 08/31 23:56
212F：→ crimsonmoon9: 题目可能要花个半天了吧 42.72.79.117 08/31 23:56
213F：→ E7lijah: 大容量ram开机很慢的 进BIOS开 211.75.171.224 08/31 23:59
214F：→ E7lijah: memory context restore 211.75.171.224 08/31 23:59
215F：推 Supasizeit: 本地还是会限制啊 还是你要fine tune203.204.195.174 09/01 00:21
216F：→ Supasizeit: 用你的桌机？？203.204.195.174 09/01 00:21
217F：推 s900527: 本地才有办法不被限制 61.227.240.64 09/01 01:51
219F：→ KaoGu: HHOWfs 111.240.156.40 09/01 03:07
220F：推 wsdykssj: V3.1就是个过渡模型 一样有思考链过长的 123.252.19.17 09/01 04:43
221F：→ wsdykssj: 问题 搭配token数不高的硬体你会等到天 123.252.19.17 09/01 04:43
222F：→ wsdykssj: 荒地老，确定要为个过渡模型花大钱? 123.252.19.17 09/01 04:43
223F：→ soulgem: ECC udimm 比 ECC rdimm 便宜啊?! 140.112.30.184 09/01 06:46
224F：→ AlvisBarhara: udimm买新的比较便宜,捡垃圾的话比 27.51.129.132 09/01 08:09
225F：→ AlvisBarhara: 较贵,大概是server用量比rdimm少吧 27.51.129.132 09/01 08:09
226F：推 kuninaka: 太折腾了 211.20.234.13 09/01 09:21
227F：推 Narok: 开memory context restore之後，MT6000变 218.173.26.33 09/01 09:21
228F：→ Narok: 成3600... 218.173.26.33 09/01 09:21
229F：→ nrsair: 64GB*4=125.224.121.180 09/01 10:26
※ 编辑: Luxus (220.129.195.119 台湾), 09/01/2025 11:19:26
230F：推 marc47: 放弃吧gpu你买不起，cpu就算让你顺利执行 220.135.199.65 09/01 23:20
231F：→ marc47: 了，一个字会耗你好几秒才会出来，光是开 220.135.199.65 09/01 23:20
232F：→ marc47: 始可能就要三分钟，人家上百万不是花假的 220.135.199.65 09/01 23:20
233F：→ marc47: ，光是16gb的模型cpu就跑不太动了,更何况 220.135.199.65 09/01 23:20
234F：→ marc47: 上百gb 220.135.199.65 09/01 23:20
235F：推 jhjhs33504: macOS这次更新不知为啥也不能跑gpt1 36.228.5.87 09/01 23:52
236F：→ jhjhs33504: 20b 36.228.5.87 09/01 23:52
237F：→ jhjhs33504: 倒是Apple自己有推出model了 36.228.5.87 09/01 23:54
238F：推 kaltu: 要跑大模型最划算的是买Mac，用统一记忆体 100.8.239.31 09/02 14:59
239F：→ kaltu: 跑GPU 100.8.239.31 09/02 14:59
240F：→ kaltu: 别用PC了，你插RAM再多也只能用很有慢慢跑 100.8.239.31 09/02 14:59
241F：→ kaltu: ，VRAM够大的卡普通人买得起也叫不到货 100.8.239.31 09/02 14:59
242F：→ kaltu: 反而臭得要死的Mac变成local大模型最划算的 100.8.239.31 09/02 14:59
243F：→ kaltu: 选择 100.8.239.31 09/02 14:59
244F：→ soulgem: Mac studio 点上去三十万不够, 差不多惨. 140.112.30.184 09/03 08:06
245F：→ soulgem: 但是难产的 DGX spark 也是十几万... 140.112.30.184 09/03 08:07
246F：→ soulgem: 跟 AMD AI MAX 395 顶笔电差不多... 囧 140.112.30.184 09/03 08:07
247F：→ soulgem: 这三家不知道最後到底哪个会比较好用... 140.112.30.184 09/03 08:27
248F：推 Supasizeit: 又不是7*24在训练 真要搞就租H200203.204.195.174 09/04 17:39