MAC 板


LINE

看板 MAC  RSS
https://i.mopix.cc/Fyy4F6.jpg
https://i.mopix.cc/gswJT8.jpg
目前有两台MAC在考虑,有考虑玩看看本地化AI,在两台价格差不多的情况下应该考虑基 本款的MAC studio还是记忆体升到48GB的MAC MINI? 先谢谢大家的建议了 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.160.149.2 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/MAC/M.1787739422.A.7DE.html
1F:推 chita0258: 要玩本地AI 除了RAM还要注意记忆体频宽 08/26 18:24
2F:推 NoneWolf: 本地AI就得堆记忆体 现在模型都玩MoE了 08/26 18:32
3F:→ NoneWolf: 不怕跑不动 只怕笨 08/26 18:32
4F:推 Shigeru777: GPU核心数不是装饰耶 08/26 19:08
5F:→ ff1268: 记忆体频宽那肯定是mac studio胜出 但36GB的记忆体是不是 08/26 20:01
6F:→ ff1268: 要跑32B以上的模型就有点吃力了? 目前GPU对於推理有帮助 08/26 20:01
7F:→ ff1268: 吗? 预算有限就得绑手绑脚啊 08/26 20:01
8F:推 airnoon: 记忆体频宽对llm还蛮重要的,会直接影响体验速度,GPU核 08/26 21:40
9F:→ airnoon: 心数也很重要,直接影响算力,散热也是mac studio 做比 08/26 21:40
10F:→ airnoon: 较好,真的玩本地要从外面连回来还是studio比较稳,另外g 08/26 21:40
11F:→ airnoon: emma 4 26b Q8已经压到30GB以下了,你可以先去下载lm stu 08/26 21:40
12F:→ airnoon: dio 看一下model跟量化版的大小 08/26 21:40
13F:推 airnoon: 我觉得很好奇的是,为什麽大家都突然想玩本地了,上一代 08/26 21:42
14F:→ airnoon: 的Mac也都可以玩啊,但是就是没像今天一样热络xDD 08/26 21:42
15F:推 NTUOnline: 资安吧?? 08/26 21:45
16F:→ NTUOnline: 可能大家不想资料传到云上?? 08/26 21:46
17F:→ phost: 是等等党等到新产品出来了啊 08/26 22:15
18F:推 airnoon: 感觉苹果官方推波助澜功不可没xD 08/27 00:05
19F:推 shortoneal: 我觉得单纯是时间,大家用订阅正好用到一个觉得会被搞 08/27 00:29
20F:→ shortoneal: 的阶段,所以想搞AI自主吧,而且压到十万能跑2、30B, 08/27 00:30
21F:→ shortoneal: 品质应该已经过了一个低标,十万也是小玩家负担的起的 08/27 00:30
22F:→ shortoneal: 另外就是这种规格会跑进来讨论的应该都是图这个吧... 08/27 00:31
23F:→ shortoneal: 对一般使用、开发都溢出很多了.. 08/27 00:31
24F:→ hidexjapan: 我今天才让Codex作个30个工作的职缺适配度分析、评分 08/27 01:19
25F:→ hidexjapan: 然後加入对应每个职缺的工作经历,五小时限额用完, 08/27 01:19
26F:→ hidexjapan: 本周限额用完85% 08/27 01:19
27F:推 NTUOnline: 难怪大家最近越来越爱本地AI 08/27 10:43
28F:→ NTUOnline: 花个十万, 就不用被限制额度或token 08/27 10:43
29F:推 oh753951: 我觉得是订阅制的ai都有用量限制,宁愿让本地ai跑久一 08/28 08:47
30F:→ oh753951: 点达成任务,也不要跑到一半要等下周额度重置XD, 08/28 08:47
31F:推 napyang: 跑LLM记忆体是最重要的,GPU是让你速度变快,但是RAM决定 08/28 10:25
32F:→ napyang: 你能不能用。这两台我认为48GB mac mini才是好选择。不然 08/28 10:25
33F:→ napyang: 36GB的 Qwen3.8-27B-4bit的context length大概只能开到10 08/28 10:25
34F:→ napyang: 0K,远低於模型能力的262K。 08/28 10:25
35F:推 stlinman: 跑AI堆记忆就是了! 不只模型本身、上下文也吃记忆体,上 08/29 14:02
36F:→ stlinman: 下文不给够生产力会打折。 08/29 14:02
37F:→ MOONY135: ....本地也没有多强 Gemma 31b挂agent没有聪明多少 08/29 15:42
38F:→ crimsonmoon9: 那是因为gemma本来就跟笨蛋一样 08/29 16:26
39F:→ crimsonmoon9: 36GB放不下27B吗?KV没quant? 08/29 16:29
40F:→ airnoon: gemma不用指望coding,但不代表他是笨蛋吧 08/29 17:38
41F:→ airnoon: 本地强弱也要看几B模型吧,31B跟70B比还是有差距吧,不过 08/29 17:45
42F:→ airnoon: 70B的Q4模型大概也要64GB RAM才塞的进去 08/29 17:45
43F:推 phoenixlife: 两台跑本地模型都不太够,至少64g 08/29 21:46
44F:→ phoenixlife: 要玩这至少预算要10万以上 08/29 21:47
45F:推 phoenixlife: 参数太少的模型乾脆用租的 08/29 21:52
46F:推 headnobig: 只能这两台的话选48g的 09/01 13:42







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:e-shopping站内搜寻

TOP