作者Mapodoufu (當歸)
看板PC_Shopping
標題Re: [閒聊] AMD Strixhalo ROCm 7.13 對LLM 有所提
時間Tue Sep 15 23:29:37 2026
自己的文章自己回
兩個月過去了 Strix Halo 迎來了春天
halogen與後來的 pwilkin llama分支
都能輕輕鬆鬆的跑 125B模型
速度直逼 M5 Max
https://i.imgur.com/y80j1B7.jpeg
https://i.imgur.com/FCQgLBK.jpeg
https://i.imgur.com/HI6Inmu.jpeg
這時候就不得不複習一下 2025年的那位苦主
開發了一個 llama.cpp 分支讓 AMD大幅提速
興高采烈的的想加入主幹 為開源社群出一份力
結果被盧洨拒絕
當時大家只覺得 llama.cpp還在開發初期
或許GG有自己的苦衷 怕污染CUDA
但沒過多久 Huggingface收購了llama.cpp
然後記憶體狂歡了幾個月
直到上周老黃花了 129.3億美元收購了 Huggingface
那位老兄現在應該想明白了吧
https://i.imgur.com/fsRDBjq.jpeg
https://i.imgur.com/FsQDQ1w.jpeg
https://i.imgur.com/ysP7qED.jpeg
https://i.imgur.com/EfrsFLH.jpeg
求偶原文
https://github.com/ggml-org/llama.cpp/pull/16827
※ 引述《Mapodoufu (當歸)》之銘言：
: https://i.imgur.com/xO6ZZbe.jpeg
: 我也不知道發這篇有什麼意義
: 閒來無事提供給手邊有買StrixHalo的人參考
: 有打算在高點出手的可以再停看聽一下
: 各位就當看笑話即可
: 舊物新賣還漲價的識趣哈嘍開賣了
: 長年躲在 DGX Spark 的影子下
: 每天看著綠色夥伴用NVFP4 飆速
: 自己卻只在廁所默默啜泣
: 最近的ROCm假FP4 pp也沒啥屁速提升
: 不過AMD戰的一直都是未來
: 最新版 ROCm 7.13 預覽版
: pp終於獲得了明顯的提升
: ROCm 7 每次更新
: 對LLM使用者都是一次次的失望
: 感覺都是針對 生圖生片那塊更新的
: 但這次不一樣了 經過實測
: 平常使用 122B-A10B Q4 這種夭壽大模型
: 基本上都是在磨練耐心 可以去泡茶、上廁所
: 身體都健康了不少
: 因為pp等待時間都是以分鐘為單位
: 這次初始速度竟衝破1000t/s
: 以下是我的測試結果
: (第一段是自動生成對話主題可以忽略)
: 第二段的 prompt processing 才是重點
: 總共給了GPU 123GB
: https://i.imgur.com/igb9H3f.png
: ROCm 7.13 (1129 t/s > 547 t/s)
: https://i.imgur.com/1PNzIGA.png
: 以下是穩定版速度
: ROCm 7.2.4 (820 t/s > 426 t/s)
: https://i.imgur.com/Z3GnudA.png
: ROCm 6.4.4 (720 t/s > 435 t/s)
: https://i.imgur.com/jm9RB4N.png
--
BZ顏藝王Danger
https://i.imgur.com/W8WpKX2h.jpg
https://i.imgur.com/LDTGr2Xh.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.194.80.247 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1789486191.A.D79.html
※ 編輯: Mapodoufu (123.194.80.247 臺灣), 09/15/2026 23:36:17
1F：推 multicopter: Rocm 現在發展的很快 已經出到10了111.255.115.114 09/16 01:19
2F：→ multicopter: 現在固定六周迭代一次111.255.115.114 09/16 01:19
3F：推 AmigoSin: 推技術線八卦223.136.91.124 09/16 01:50
4F：→ labbat: 八卦的結論是什麼180.177.202.30 09/16 02:28
5F：→ cercloud: 說是10，實際還是識別成7.15123.193.195.183 09/16 03:07
6F：推 dos01: 看起來結論應該是老黃的護城河又大又猛210.209.168.195 09/16 03:11
7F：→ dos01: 還會咬人210.209.168.195 09/16 03:11
笑死
8F：→ gbcg9725: 就..跳版號7直接跳10 XD27.247.100.160 09/16 03:13
9F：→ dildoe: 資本主義的勝利101.12.146.126 09/16 07:46
※ 編輯: Mapodoufu (123.194.80.247 臺灣), 09/16/2026 07:55:51
10F：推 avans: 推說明，我都沒注意到llama.cpp被HF買下...223.137.36.2 09/16 08:18
11F：推 FFWillie: 我的395改用halogen之後 qwen3.8-flash-140.96.32.145 09/16 08:57
12F：→ FFWillie: next 速度直接翻被突破40tokens/s,真的140.96.32.145 09/16 08:58
13F：→ FFWillie: 從勉強可用變成好用，沒想到這裡也可以140.96.32.145 09/16 08:58
14F：→ FFWillie: AMD戰未來。另外推原po八卦140.96.32.145 09/16 08:59
黑龍鐧威武
15F：推 Bencrie: 版號沒什麼。反正他最後一定會變年月制60.251.10.52 09/16 09:03
16F：→ vsbrm: 軟體價值漲5000了，但是顯卡售價也漲500042.77.82.180 09/16 09:14
※ 編輯: Mapodoufu (49.218.136.120 臺灣), 09/16/2026 09:21:44
17F：→ DSI: 測起來7.14比10快一咪咪，但比7.2.4快很多了 124.218.173.68 09/16 12:23
18F：推 pxhome: 別高興太早， 等A卡效率上來大戶就會狂掃1 101.10.6.191 09/16 14:32
19F：→ pxhome: 6GB的卡，換AMD大漲價 101.10.6.191 09/16 14:32
20F：→ pxhome: GDDR7供不應求， 降維掃GDDR6或者DDR5 101.10.6.191 09/16 14:33
21F：→ pxhome: 大模型需要用到1TB， 有DRAM大缺貨的好戲 101.10.6.191 09/16 14:34
22F：→ pxhome: 可以看 101.10.6.191 09/16 14:34
23F：推 GenShoku: 7900xtx跟R9700早有人在掃了 42.79.80.205 09/16 14:53
24F：→ losmith: 後悔當年沒加點買R9700...9070XT16G不夠! 1.163.238.172 09/16 15:03
25F：推 pxhome: 9600XT當9700XT賣！ 看看N卡的吃相 101.10.6.191 09/16 15:05
26F：推 x90050: R9700最近幾個電商上架賣到58~59k 220.134.92.156 09/16 15:22
27F：→ x90050: 也是不到半天就被掃光了 220.134.92.156 09/16 15:22
28F：推 ceming: 最近9070XT好像貨在缺了 品項少一堆 118.232.151.63 09/16 15:27
29F：推 GenShoku: 現在就是管你A卡N卡，大vram家用卡都是 42.79.80.205 09/16 16:11
30F：→ GenShoku: 等著被掃的命運 42.79.80.205 09/16 16:11
31F：→ crimsonmoon9: 4張R9700拼起來128GB就是香 42.77.4.165 09/16 16:17
32F：推 mtc5566: 技嘉9070XT Gaming還在26890有需要就趕 27.53.138.224 09/17 21:53
33F：→ mtc5566: 快買 哪天就突然給你3字頭都不意外 27.53.138.224 09/17 21:53
34F：→ tuwile: 可惜沒入手R9700 已經被掃完了 36.233.110.192 09/20 00:18