作者iammatrix (母体)
看板PC_Shopping
标题Re: [菜单] 10K以内AI机
时间Sun Jul 20 10:28:08 2025
※ 引述《museangel (敲敲)》之铭言：
: https://www.reddit.com/r/LocalLLaMA/comments/1ke3heg/how_is_your_experience_with
: _qwen3_so_far/
: 我看到reddit的上面这篇文，想借这串原文问个问题，
: 这几天开源的llm qwen3-235b-a22b，
: 是不是真的也可以靠cpu跟128gb的ram跑起来，而且速度不算慢、效果也还不错了？
: 一般这种上百b等级的llm，用一般消费级gpu就算5090也装不下。如果用cpu跟ram，成本倒
: 是可以压低得多，而且还有比较大的沿用性，不会像gpu每两年换代折旧不少。
: 我平常只用gpu跑，没试过cpu+ram，有没有前辈有相关经验，文章里说到的这种cpu+ram的
: 跑法有没有什麽地雷？
https://www.youtube.com/watch?v=1N6a46QqdhI
斯波图最新影片有测试过了，用的是AMD AI MAX+ 395 的小型桌面机
相当的不错，等於是建构了一个本地AI，有着无限TOKEN。
他把QWEN3的80G模型直接丢给主机的NPU+RAM去跑 全本地的运算
也不影响日常的工作，还能够分派多重脚色给AI去帮忙执行计画
https://www.gmktec.cn/product/5656/
最高可以运算96G的模型，主机最高125G 有着约90%左右的9950X性能
价格就超出预算，14999RMB，包含128G+2T SSD，比一张5090便宜就是。
https://www.youtube.com/watch?v=-1kuUqp1X2I
其他也有类似的产品 这台便宜些。
感觉工作上有大量需求+建构本地AI 需要隐私不连网的
这个应该是目前不买老黄显卡的最优解了
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.171.35.19 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1752978492.A.D95.html
1F：推 kuninaka: 14999还好，这是整台主机的价格 XD 1.173.191.153 07/20 11:04
2F：推 lordmi: 395发售之後这种设计很多，可以多比价。223.137.179.247 07/20 11:15
3F：→ lordmi: 前面有一篇半DIY花费就压在12k rmb。不过223.137.179.247 07/20 11:15
4F：→ lordmi: 老实说，395套装适合玩玩或者学校采购，223.137.179.247 07/20 11:15
5F：→ lordmi: 到商用场景还是不上不下有很多限制223.137.179.247 07/20 11:15
6F：推 kuninaka: 要商用当然很难XD 1.173.191.153 07/20 11:23
7F：推 kime5412: 不是「80G」模型，是「80亿（8b)」，但223.138.201.224 07/20 11:49
8F：→ kime5412: 是说真的8b模型拿来聊天、总结文章还算223.138.201.224 07/20 11:49
9F：→ kime5412: 堪用，真的不能期待更多了223.138.201.224 07/20 11:49
10F：→ iammatrix: 不是8B吧? 8B还吃不到20GB 118.171.35.19 07/20 12:04
11F：推 Supasizeit: 无限token 是三小203.204.195.174 07/20 13:28
12F：→ cutejojocat: 可惜就是大厂只有出笔电型态的 36.229.231.225 07/21 00:40