作者bhmagic (BH)
看板PC_Shopping
标题Re: [菜单] 80K 超轻度AI+游戏机 -本地布署LLM的需求
时间Wed Aug 5 18:43:43 2026
※ 引述《lordmi (星宿喵)》之铭言:
: 最近看很多人想玩本地LLM,稍微聊一下10万预算显卡怎麽组比较好
: 前提条件先设在部署 FP8 格式、体积较大的 27B 级稠密模型。基本上真要有
: 生产力的模型都大於这个起跑线,低於这个规模先不谈。
十万玩LLM 答案很明显就只有统一记忆体架构阿..
128GB 统一记忆体架构的miniPC 现在大概就是十万多
FP8 > Vulcan api> llama cpp 直接可以硬干200B左右的模型 虽然速度大概会想睡觉
但是这个范围有新千问这种密度超高的好模型 高智商的
真的DIY灵魂爆发 爆改一下散热
(虽然大部分瓦数被锁死根本拉不上去 但是可以变安静一点 还是有点乐趣的)
这都是今年LLM的标准答案了 可是这个版很少人玩 可以参考一下
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 99.118.209.229 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1785926625.A.D46.html
1F:推 kira925: 现在好像还没有Strix Halo + dGPU的方案 57.140.96.59 08/05 18:59
2F:→ scarbywind: 因为你也打不出商品名 114.46.105.184 08/05 19:25
3F:→ scarbywind: 目前大概只有苹果跟对岸 114.46.105.184 08/05 19:25
4F:→ scarbywind: 还有NV出的DGX 114.46.105.184 08/05 19:26
5F:→ bhmagic: 对 没打出商品名就是因为大部分要美亚 99.118.209.229 08/05 19:28
6F:→ bhmagic: 对岸那边的我不清楚 我主要看北美 99.118.209.229 08/05 19:29
7F:→ bhmagic: 如果要现在买上一代的 可以看GMKTEC 99.118.209.229 08/05 19:37
8F:→ bhmagic: 或者framework desktop 99.118.209.229 08/05 19:37
9F:→ bhmagic: Al Max+ 395 系列的 99.118.209.229 08/05 19:38
10F:推 cannedtuna: 华硕z13也是395+128g 十万内还送萤幕 1.168.226.216 08/05 20:05
11F:→ bhmagic: 那台有个小岛秀夫联名 差点没忍住 冷汗 99.118.209.229 08/05 20:10
12F:推 s78513221: DGX我觉得可惜在消费级玩法生态吧 114.136.162.8 08/05 20:24
13F:→ seemoon2000: DGX重点是可以NVLink 82.140.187.28 08/05 20:58
14F:推 visa829: 要Strix Halo + dGPU的可以找对岸oculink 220.134.116.61 08/05 21:47
15F:→ visa829: 方案看看 220.134.116.61 08/05 21:47
16F:→ iceyang: 这种10w+机器台湾难找 启动怕出保麻烦 61.224.130.116 08/05 22:33
17F:→ iceyang: 海鲜卖的基本也都是从对岸淘来的 价格先 61.224.130.116 08/05 22:35
18F:→ iceyang: 多两成 保不保固还很难说 61.224.130.116 08/05 22:35