作者Mapodoufu (当归)
看板PC_Shopping
标题[闲聊] AMD Strixhalo ROCm 7.13 对LLM 有所提
时间Sun Jul 12 12:17:51 2026
https://i.imgur.com/xO6ZZbe.jpeg
我也不知道发这篇有什麽意义
闲来无事提供给手边有买StrixHalo的人参考
有打算在高点出手的可以再停看听一下
各位就当看笑话即可
旧物新卖还涨价的识趣哈喽开卖了
长年躲在 DGX Spark 的影子下
每天看着绿色夥伴用NVFP4 飙速
自己却只在厕所默默啜泣
最近的ROCm假FP4 pp也没啥屁速提升
不过AMD战的一直都是未来
最新版 ROCm 7.13 预览版
pp终於获得了明显的提升
ROCm 7 每次更新
对LLM使用者都是一次次的失望
感觉都是针对 生图生片那块更新的
但这次不一样了 经过实测
平常使用 122B-A10B Q4 这种夭寿大模型
基本上都是在磨练耐心 可以去泡茶、上厕所
身体都健康了不少
因为pp等待时间都是以分钟为单位
这次初始速度竟冲破1000t/s
以下是我的测试结果
(第一段是自动生成对话主题可以忽略)
第二段的 prompt processing 才是重点
总共给了GPU 123GB
https://i.imgur.com/igb9H3f.png
ROCm 7.13 (1129 t/s > 547 t/s)
https://i.imgur.com/1PNzIGA.png
以下是稳定版速度
ROCm 7.2.4 (820 t/s > 426 t/s)
https://i.imgur.com/Z3GnudA.png
ROCm 6.4.4 (720 t/s > 435 t/s)
https://i.imgur.com/jm9RB4N.png
--
BZ颜艺王Danger
https://i.imgur.com/W8WpKX2h.jpg
https://i.imgur.com/LDTGr2Xh.jpg
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 49.216.40.246 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1783829873.A.0C5.html
1F:推 seemoon2000: 相同环境下 Vulkan预填充是多少?82.140.187.53 07/12 13:40
Vulkan-RADV (871 t/s > 455 t/s)
tg竟然是所有里面最高的 有点意思
https://i.imgur.com/8qDX9ZC.png
2F:推 Leohs: 有推荐8060s使用SGLang的方法吗? 这两天搞101.10.164.50 07/12 14:42
3F:→ Leohs: 很久@@101.10.164.50 07/12 14:42
我很废 都用别人做好的container
※ 编辑: Mapodoufu (49.216.131.224 台湾), 07/12/2026 15:44:11
4F:推 seemoon2000: 之前就是ROCm预填充在文本小的时候 82.140.187.53 07/12 16:32
5F:→ seemoon2000: 会赢过Vulkan 但长上下文会输 吐字 82.140.187.53 07/12 16:32
6F:→ seemoon2000: 层面的话 Vulkan一直都是赢的 82.140.187.53 07/12 16:32
7F:→ cauliflower: 长年躱在DGX SPARK是如何成立的?不 111.246.180.84 07/12 19:56
8F:→ cauliflower: 是才发布一个月? 111.246.180.84 07/12 19:56
9F:推 oldgooddays: 有用过柠檬水吗? 123.110.172.24 07/12 20:07
10F:→ iceyang: DGX SPARK卖很久了 61.224.168.230 07/12 20:57
11F:推 wbenjin: 有人DGX Spark RTX Spark傻傻分不清处 36.239.245.197 07/12 21:05
12F:→ iceyang: 打算直接买Gorgon Halo,希望别太拉 61.224.168.230 07/12 22:40
13F:推 kira925: Gorgon Halo好处是RAM可以更 就这样 57.140.96.46 07/13 09:10
14F:→ kira925: 速度是比不上的 57.140.96.46 07/13 09:10
15F:推 kira925: 可以更大 57.140.96.46 07/13 09:43
16F:推 dkfs789: AMD对API的支援跟他的驱动一样好 支持134.231.162.123 07/13 13:49