作者sssh (叫我松高魂 ~~)
看板nb-shopping
标题[选购] 轻量型Local端大语言模型(LLM)开发笔电 (内有选手)
时间Fri Jul 5 11:36:42 2024
因工作需求，之後会进行本地端大语言模型相关开发，
我知道如果文本量大，或是遇到较长 Token 笔电可能还是无法负荷，
因此这台笔电的定位大概会是在 PoC 阶段使用的开发机
目前有下列两台考虑中 :
1. ROG Strix G16
i9-13980/RTX4080-12G/32G可支援到64G
2. Razer Blade 15 Advanced
i7-12800/RTX3080ti-16G/32G
先不论重量及外型，基本上就是工作用
雷蛇 Blade 15 Advanced 3080ti 有 vram 16G
但记忆体最大仅支援到 32G 且 CPU 使用的是 i7
但 ROG Strix G16 用的是 4080 牺牲了一点 vram
但可以换得最大记忆体支援到 64G 跟 i9 CPU
两者价格差不多 请问各位大大们会怎麽选啊啊啊啊啊~~~~~~ (选择障碍中)
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.163.81.128 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/nb-shopping/M.1720150605.A.EC2.html
1F：推 Pegasus99: 不能贴卖场连结喔~ 复制规格下来贴就 1.200.67.171 07/05 12:51
2F：→ Pegasus99: 好 1.200.67.171 07/05 12:51
感谢提醒
3F：→ Pegasus99: 然後我会选4080 扩充性大且不过时 1.200.67.171 07/05 12:52
4F：推 Pegasus99: 除非你对重量有需求 毕竟两者差半公斤 1.200.67.171 07/05 12:54
5F：推 mrme945: 跑LLM就是VRAM先决，VRAM不够是连跑的资 111.71.212.124 07/05 13:29
6F：→ mrme945: 格都没有，你核心再快都没用，消费级显卡 111.71.212.124 07/05 13:29
7F：→ mrme945: 能跑个3B就要偷笑了 111.71.212.124 07/05 13:29
8F：推 weiyuhsi: VRAM重要性远大於其他 114.136.229.16 07/05 14:14
9F：→ gbcg9725: 要用笔电跑ai要有云端或外接显卡的心理 27.242.128.23 07/05 14:22
10F：→ gbcg9725: 准备了，vram不够直接oom给你看 27.242.128.23 07/05 14:22
11F：→ gbcg9725: 尽量选vram大的就对 27.242.128.23 07/05 14:27
感谢各位前辈推荐 !
※ 编辑: sssh (118.163.81.128 台湾), 07/05/2024 14:57:55
12F：嘘 AmigoSin: 跑不动除非你用cpu去跑 114.136.49.77 07/05 15:43
13F：→ pirrysal: 只有中国有卖天选5 pro 4060 16GVRAM的 1.162.37.220 07/05 16:25
14F：→ pirrysal: 跑这个要看显卡VRAM，至少16G起跳 1.162.37.220 07/05 16:26
15F：推 aoopz: vram 先决 111.82.219.40 07/05 17:18
16F：推 truthmanman: 选 vram 大的 211.72.195.139 07/05 17:30
17F：→ gbcg9725: 笔电4060有16g vram?第一次听说 27.242.128.23 07/05 17:46
18F：推 JLINlikeshit: 我也没看到耶，如果有16g 我会买来 111.83.132.232 07/05 18:27
19F：→ JLINlikeshit: 玩看看 111.83.132.232 07/05 18:27
20F：→ pirrysal: 天选5pro 4060 16G淘宝货很少 要找 1.162.38.9 07/07 13:27
21F：→ jazz121123: 4060最大不是8g? 123.241.143.77 07/08 00:00
22F：推 lwei781: 纯 Cuda 下选 VRAM, 能接受SoC 来 36.230.72.148 07/17 01:02
23F：→ lwei781: 跑找64GB 以上的 机种啊 36.230.72.148 07/17 01:02