2026年堪称 回光返照 文艺复兴 的重大纪元 只因为AI让大家都快买不起新电脑 导致什麽奇形怪状的旧3C零件都能被挖出来重新上架还卖得吓吓叫 俗话说 AI主机没撇步 钞票砸下去就有 在这个砸大钱就有高效能的时代 来分享一下买不起新零件的穷人AI机笑能供各位板友参考 本次用前阵子特价的 RX9060XT 16G 搭配旧硬体进行测试 ********固定设备******** 显示卡: 2张 RX9060XT 16G LLM: qwen3.6:27b-q4_K_M Docker: Ollama KV-Cache量化: q_8 Context Window: 64K Parallelism: Pipeline Parallelism 流水线并行 ********设备1******** CPU: E5-2673 V3 RAM: DDR3-1600L 32GB Dual-CH MB: HUANANZHI X99 CD3 NAME ID SIZE PROCESSOR CONTEXT UNTIL qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever total duration: 1m14.1222733s load duration: 530.1327ms prompt eval count: 12 token(s) prompt eval duration: 368.881ms prompt eval rate: 32.53 tokens/s eval count: 965 token(s) eval duration: 1m13.191813s eval rate: 13.18 tokens/s https://i.meee.com.tw/DzRAxhW.png https://i.meee.com.tw/etWE5Yx.jpg https://i.meee.com.tw/gkkB4tA.jpg ********比较设备2******** CPU: E5-2690 V4 RAM: DDR4-2400 32GB Quad-CH MB: 白牌山寨 X99 NAME ID SIZE PROCESSOR CONTEXT UNTIL qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever total duration: 1m26.1562391s load duration: 463.7373ms prompt eval count: 12 token(s) prompt eval duration: 349.873ms prompt eval rate: 34.30 tokens/s eval count: 1128 token(s) eval duration: 1m25.335511s eval rate: 13.22 tokens/s https://i.meee.com.tw/HUECTE0.png ********比较设备3******** CPU: R9-5900X RAM: DDR4-3200 64GB Dual-CH MB: ASRock B550M-ITX/AC + PCI-E通道分割设备 NAME ID SIZE PROCESSOR CONTEXT UNTIL qwen3.6:27b-q4_K_M a50eda8ed977 19 GB 100% GPU 65536 Forever total duration: 41.5421257s load duration: 225.8911ms prompt eval count: 12 token(s) prompt eval duration: 323.544ms prompt eval rate: 37.09 tokens/s eval count: 565 token(s) eval duration: 40.97805s eval rate: 13.79 tokens/s https://i.meee.com.tw/TWK9EQo.png ********小结******** https://www.reddit.com/r/LocalLLM/comments/1szvz9q/qwen3627b_q3_k_s_on_rx_9060_xt_16gb_decent/ 有Reddit上的网友用 [ R9-7950X, 64GB DDR5, RX9060XT 16G, ROCm, llama.cpp ] 跑qwen3.6:27b-q3_K_S, 12288 context, Full GPU offload, KV-Cache q_4, 14.8GB VRAM Used <<速度大概是 14 tok/s>> 本次测试用 [ E5-2673V3, 32GB DDR3, RX9060XT 16G X2, Ollama(llama.cpp核心)] 跑qwen3.6:27b-q4_K_M, 65536 context, Full GPU offload, KV-Cache q_8, 19GB VRAM Used <<速度大概是 13~14 tok/s>> <比较点> 1.跑q4_K_M理论上较q3_K_S慢 2.跑64K q8-KV理论上较12K q4-KV慢 3.双卡跑Pipeline Parallelism (流水线并行)只会比单卡慢不会更快 令人欣慰的是实际跑出来速度没有慢很多。 但对於RX9060XT这种记忆体频宽只有320.0 GB/s的显示卡来说，在Full GPU offload情况 下，换好的CPU或记忆体效能提升似乎有限? ********个人心得******** 虽然13~14 tok/s的"笑能"对5070Ti或是5090的卡来说就是个笑话， 但用手边现有的DDR3记忆体&旧SSD，整套设备大概花1015出头USD(国内买会更便宜)，且9 成预算的零件是能直接挪用到其他电脑， 就能有一台有32G VRAM的AI主机，算是颇划算的了，虽然速度真的有点慢就是了~ CPU: 15 USD MB: 65 USD RAM: 0 (现有) GPU: 850 USD SSD: 0 (现有) POWER: 35 USD CASE: 50 USD Total: 1015 USD 分享给手边已有大容量旧记忆体、不想花大钱又想玩AI的板友~ ********预算充足能买整台DDR5新电脑的请不要用这种零件折磨自己******** ****本篇内容仅为个人测试心得，若论点或观点有误还请各位多帮忙指正或分享资讯**** 顺便分享一下本月刚发布的 LM Studio Bionic 引擎， 用这台设备已能在地端用开源权重模型直接运行自动化AI任务， 它能自己调用工具读取档案，分析後自动产制一份Word报告文件(虽然整个要花12分钟有 点慢就是了)。 https://i.meee.com.tw/yDOXE1x.png https://i.meee.com.tw/NHKdk8K.png https://i.meee.com.tw/JyfLBHg.png 感谢您的收看~ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 12.170.106.26 (美国) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1784834166.A.837.html