作者Mapodoufu (当归)
看板PC_Shopping
标题Re: [闲聊] AMD Strixhalo ROCm 7.13 对LLM 有所提
时间Tue Sep 15 23:29:37 2026
自己的文章自己回
两个月过去了 Strix Halo 迎来了春天
halogen与後来的 pwilkin llama分支
都能轻轻松松的跑 125B模型
速度直逼 M5 Max
https://i.imgur.com/y80j1B7.jpeg
https://i.imgur.com/FCQgLBK.jpeg
https://i.imgur.com/HI6Inmu.jpeg
这时候就不得不复习一下 2025年的那位苦主
开发了一个 llama.cpp 分支让 AMD大幅提速
兴高采烈的的想加入主干 为开源社群出一份力
结果被卢洨拒绝
当时大家只觉得 llama.cpp还在开发初期
或许GG有自己的苦衷 怕污染CUDA
但没过多久 Huggingface收购了llama.cpp
然後记忆体狂欢了几个月
直到上周老黄花了 129.3亿美元收购了 Huggingface
那位老兄现在应该想明白了吧
https://i.imgur.com/fsRDBjq.jpeg
https://i.imgur.com/FsQDQ1w.jpeg
https://i.imgur.com/ysP7qED.jpeg
https://i.imgur.com/EfrsFLH.jpeg
求偶原文
https://github.com/ggml-org/llama.cpp/pull/16827
※ 引述《Mapodoufu (当归)》之铭言：
: https://i.imgur.com/xO6ZZbe.jpeg
: 我也不知道发这篇有什麽意义
: 闲来无事提供给手边有买StrixHalo的人参考
: 有打算在高点出手的可以再停看听一下
: 各位就当看笑话即可
: 旧物新卖还涨价的识趣哈喽开卖了
: 长年躲在 DGX Spark 的影子下
: 每天看着绿色夥伴用NVFP4 飙速
: 自己却只在厕所默默啜泣
: 最近的ROCm假FP4 pp也没啥屁速提升
: 不过AMD战的一直都是未来
: 最新版 ROCm 7.13 预览版
: pp终於获得了明显的提升
: ROCm 7 每次更新
: 对LLM使用者都是一次次的失望
: 感觉都是针对 生图生片那块更新的
: 但这次不一样了 经过实测
: 平常使用 122B-A10B Q4 这种夭寿大模型
: 基本上都是在磨练耐心 可以去泡茶、上厕所
: 身体都健康了不少
: 因为pp等待时间都是以分钟为单位
: 这次初始速度竟冲破1000t/s
: 以下是我的测试结果
: (第一段是自动生成对话主题可以忽略)
: 第二段的 prompt processing 才是重点
: 总共给了GPU 123GB
: https://i.imgur.com/igb9H3f.png
: ROCm 7.13 (1129 t/s > 547 t/s)
: https://i.imgur.com/1PNzIGA.png
: 以下是稳定版速度
: ROCm 7.2.4 (820 t/s > 426 t/s)
: https://i.imgur.com/Z3GnudA.png
: ROCm 6.4.4 (720 t/s > 435 t/s)
: https://i.imgur.com/jm9RB4N.png
--
BZ颜艺王Danger
https://i.imgur.com/W8WpKX2h.jpg
https://i.imgur.com/LDTGr2Xh.jpg
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 123.194.80.247 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1789486191.A.D79.html
※ 编辑: Mapodoufu (123.194.80.247 台湾), 09/15/2026 23:36:17
1F：推 multicopter: Rocm 现在发展的很快 已经出到10了111.255.115.114 09/16 01:19
2F：→ multicopter: 现在固定六周迭代一次111.255.115.114 09/16 01:19
3F：推 AmigoSin: 推技术线八卦223.136.91.124 09/16 01:50
4F：→ labbat: 八卦的结论是什麽180.177.202.30 09/16 02:28
5F：→ cercloud: 说是10，实际还是识别成7.15123.193.195.183 09/16 03:07
6F：推 dos01: 看起来结论应该是老黄的护城河又大又猛210.209.168.195 09/16 03:11
7F：→ dos01: 还会咬人210.209.168.195 09/16 03:11
笑死
8F：→ gbcg9725: 就..跳版号7直接跳10 XD27.247.100.160 09/16 03:13
9F：→ dildoe: 资本主义的胜利101.12.146.126 09/16 07:46
※ 编辑: Mapodoufu (123.194.80.247 台湾), 09/16/2026 07:55:51
10F：推 avans: 推说明，我都没注意到llama.cpp被HF买下...223.137.36.2 09/16 08:18
11F：推 FFWillie: 我的395改用halogen之後 qwen3.8-flash-140.96.32.145 09/16 08:57
12F：→ FFWillie: next 速度直接翻被突破40tokens/s,真的140.96.32.145 09/16 08:58
13F：→ FFWillie: 从勉强可用变成好用，没想到这里也可以140.96.32.145 09/16 08:58
14F：→ FFWillie: AMD战未来。另外推原po八卦140.96.32.145 09/16 08:59
黑龙鐧威武
15F：推 Bencrie: 版号没什麽。反正他最後一定会变年月制60.251.10.52 09/16 09:03
16F：→ vsbrm: 软体价值涨5000了，但是显卡售价也涨500042.77.82.180 09/16 09:14
※ 编辑: Mapodoufu (49.218.136.120 台湾), 09/16/2026 09:21:44
17F：→ DSI: 测起来7.14比10快一咪咪，但比7.2.4快很多了 124.218.173.68 09/16 12:23
18F：推 pxhome: 别高兴太早， 等A卡效率上来大户就会狂扫1 101.10.6.191 09/16 14:32
19F：→ pxhome: 6GB的卡，换AMD大涨价 101.10.6.191 09/16 14:32
20F：→ pxhome: GDDR7供不应求， 降维扫GDDR6或者DDR5 101.10.6.191 09/16 14:33
21F：→ pxhome: 大模型需要用到1TB， 有DRAM大缺货的好戏 101.10.6.191 09/16 14:34
22F：→ pxhome: 可以看 101.10.6.191 09/16 14:34
23F：推 GenShoku: 7900xtx跟R9700早有人在扫了 42.79.80.205 09/16 14:53
24F：→ losmith: 後悔当年没加点买R9700...9070XT16G不够! 1.163.238.172 09/16 15:03
25F：推 pxhome: 9600XT当9700XT卖！ 看看N卡的吃相 101.10.6.191 09/16 15:05
26F：推 x90050: R9700最近几个电商上架卖到58~59k 220.134.92.156 09/16 15:22
27F：→ x90050: 也是不到半天就被扫光了 220.134.92.156 09/16 15:22
28F：推 ceming: 最近9070XT好像货在缺了 品项少一堆 118.232.151.63 09/16 15:27
29F：推 GenShoku: 现在就是管你A卡N卡，大vram家用卡都是 42.79.80.205 09/16 16:11
30F：→ GenShoku: 等着被扫的命运 42.79.80.205 09/16 16:11
31F：→ crimsonmoon9: 4张R9700拼起来128GB就是香 42.77.4.165 09/16 16:17
32F：推 mtc5566: 技嘉9070XT Gaming还在26890有需要就赶 27.53.138.224 09/17 21:53
33F：→ mtc5566: 快买 哪天就突然给你3字头都不意外 27.53.138.224 09/17 21:53
34F：→ tuwile: 可惜没入手R9700 已经被扫完了 36.233.110.192 09/20 00:18