作者SkyPlus (Sky)
看板PC_Shopping
標題[情報] Zen5 AVX512 分析
時間Thu Aug 8 09:39:45 2024
http://www.numberworld.org/blogs/2024_8_7_zen5_avx512_teardown/
雖然 Zen5 初期測試報告有點不盡人意
不過剛剛看到這篇文章大力讚揚 Zen5 AVX512 設計,
和 Zen4 AVX512 相比, Zen5 IPC成長幾乎快了 100%
這是因為 Zen4 用 4 x 256-bit 的通道組合出來
連 Intel 只有 server 等級的 Sapphire Rapids 才給的起 2 x 512-bit
但這次 zen5 桌面版大核就很大方的給了 4 x 512-bit
因此反映在效能上就直接爆漲了
另外 Intel 常被詬病 AVX512 需要先花一些時間(約50000 cycle)低速跑，
等電上去，CPU降速才能全速跑。但 Zen5 可能靠設計和製程完全解決這問題，
不需降速也不用等，下指令後幾乎立即全速運作。
此外 Intel 在 Tiger Lake 加了 AVX512-VP2INTERSECT 指令，
但速度超級慢 (25 cycle)，大家都用別的指令去模擬還比較快，
因此 Intel 在往後的 CPU 也移除他。
這次 Zen5 實作了這個指令，而且只花 1 cycle 就完成。
綜合這些分析，他認為Zen5可以說第一次讓大家看到完整版的 AVX-512。
反觀 Intel 設計了卻四處限制...
他還有提到 Cinebench, CPU-Z 都沒有很認真測試 AVX-512,
因此看不出Zen5在這方面的優勢。
不過有些 Zen4 可以在 1 cycle 做完的非 AVX-512 SIMD，
在 Zen5 反而不明原因退步到 2 cycle，
另外混合 AVX-256,512 指令的順序不對也會變慢
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.113.235.116 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1723081201.A.DFA.html
1F：推 smallreader: 重返榮耀！ 223.139.184.93 08/08 09:42
2F：推 ltytw: i粉正在嘗試關心 ： 既然以前i被說avx512 114.33.46.227 08/08 09:45
3F：→ ltytw: 超熱超耗電又要讓U降頻跑 那這次的zen5呢 114.33.46.227 08/08 09:46
4F：推 Fortis931: i吹討厭 36.238.95.84 08/08 09:58
5F：→ Fortis931: 這篇 並試著無視 36.238.95.84 08/08 09:59
6F：推 orze04: 不知道Linus 大神如何看待… 114.136.57.150 08/08 10:01
7F：推 johnson0319: 新一代RPCS3神器 104.28.232.15 08/08 10:05
8F：推 mayolane: 之前用7950X的AVX-512挖礦的還在嗎 114.136.146.11 08/08 10:19
9F：推 qwe753951: 超缺頻寬 211.20.26.1 08/08 10:33
10F：→ qwe753951: X3D快來 211.20.26.1 08/08 10:34
11F：→ seiya2000: AVX-512做什麼用？ 39.10.8.235 08/08 10:36
12F：推 Gwaewluin: 這個之前好像看到能挖礦的樣子 114.137.153.82 08/08 10:44
13F：推 arnold3: 遊戲好像用不到? 119.14.100.51 08/08 10:46
14F：→ arrenwu: AVX2應用比較廣泛 AVX512不知道那些軟體 98.45.195.96 08/08 10:47
15F：→ arrenwu: 現在有在用 98.45.195.96 08/08 10:47
16F：推 mayolane: So sorry to disappoint the RPCS3 com 114.136.146.11 08/08 10:47
17F：→ mayolane: munity here. As much as they love AV 114.136.146.11 08/08 10:47
18F：→ mayolane: X512, they primarily only use 128-bi 114.136.146.11 08/08 10:47
19F：→ mayolane: t AVX512 - which does not significan 114.136.146.11 08/08 10:47
20F：→ mayolane: tly benefit from Zen5's improvements 114.136.146.11 08/08 10:47
21F：→ mayolane: to the vector unit. 114.136.146.11 08/08 10:47
22F：→ mayolane: RPCS3沒什麼用 114.136.146.11 08/08 10:47
23F：噓 DrGun: 8要再反觀惹！收盤只剩18.99 天下苦皇久矣 1.163.252.225 08/08 10:53
24F：→ DrGun: ！！ 1.163.252.225 08/08 10:53
25F：推 chiahong1227: AVX-512 普通消費者用不到也是事實 140.114.85.131 08/08 11:12
26F：推 leviva: 普通遊戲用不到，PS3模擬器有用到的樣子 27.52.41.115 08/08 11:14
27F：推 qwe753951: 一般人用不到是事實 211.20.26.1 08/08 11:19
28F：推 yankeefat: i皇今年已經跌掉60%了 123.204.11.71 08/08 11:28
29F：推 kamichu: 等X3D應該猛猛的 111.82.252.188 08/08 11:45
30F：推 amos30627: G叔吹18A股價18塊 等他吹14A的時候會剩 101.9.133.227 08/08 11:50
31F：→ amos30627: 14塊 101.9.133.227 08/08 11:50
32F：→ amos30627: 看他是製程吹的快還是股價跌的快 101.9.133.227 08/08 11:51
33F：推 wantsu: PS2模擬器好像會用到 125.228.171.79 08/08 12:12
34F：→ mayolane: PS3模擬器有用 114.136.146.11 08/08 12:17
35F：推 Arbin: 那PS3模擬器應該會跑更快了吧xd 223.140.213.77 08/08 12:21
36F：→ mayolane: PS3模擬器就上面說的RPCS3，看起來Zen5 223.136.78.202 08/08 12:24
37F：→ mayolane: 不會比較快 223.136.78.202 08/08 12:24
38F：推 easyman: X3d加上avx512 ,跑llama小model,應該個 42.73.70.132 08/08 12:24
39F：→ easyman: 人使用也不錯 42.73.70.132 08/08 12:24
40F：推 tim108108: cpu跑大語言模型可以用avx512加速 42.73.75.255 08/08 12:27
41F：推 Lansbury: 沒想到自己搞得專用指令 AMD才能好好發 49.217.128.171 08/08 12:36
42F：→ Lansbury: 揮 可悲 49.217.128.171 08/08 12:36
43F：推 wahaha99: 可是這超級耗電晶體耶 能照顧到的 118.169.27.203 08/08 12:43
44F：→ wahaha99: 應用有限說... 118.169.27.203 08/08 12:43
45F：→ ybite: 指令集的改善我覺得要等程式編譯執行時最佳 42.70.227.91 08/08 12:45
46F：→ ybite: 化才能展現 42.70.227.91 08/08 12:45
47F：→ wahaha99: 主要是應用太少 當年推出時幾乎沒什麼 118.169.27.203 08/08 12:48
48F：→ wahaha99: 地方用的上 到現在有AI可以用上 118.169.27.203 08/08 12:48
49F：→ wahaha99: 但GPU跟NPU他不香嗎... 為什麼要用CPU 118.169.27.203 08/08 12:49
50F：推 mayolane: 但Zen5塞了AVX-512還沒有比Zen4核心大 140.112.55.67 08/08 12:53
51F：→ mayolane: 顆 140.112.55.67 08/08 12:53
52F：→ mayolane: 製程也沒用進步很多 140.112.55.67 08/08 12:54
53F：推 ltytw: cpu還是比較通用 114.33.46.227 08/08 13:00
54F：→ alvistan: 重點是這次看起來不佔空間 101.10.57.167 08/08 13:31
55F：推 b325019: 原本以為塞avx512會很肥，結果塞了4路進 223.137.23.210 08/08 13:39
56F：→ b325019: 去整體面積跟上代差不多真猛 223.137.23.210 08/08 13:39
57F：推 mtc5566: 我猜AMD先上 過幾年Intel又會出來AXV51W 118.231.208.21 08/08 13:46
58F：→ mtc5566: 無用論 118.231.208.21 08/08 13:46
59F：推 kaj1983: 台積電就是猛 36.238.142.66 08/08 13:48
60F：推 SHR4587: 伺服器資料中心那邊avx512有甚麼用嗎? 111.241.132.33 08/08 14:12
61F：→ SHR4587: 畢竟AMD EPYC跟Ryzen用的料幾乎是一樣的 111.241.132.33 08/08 14:13
62F：推 EXTECH: RPCS3全順砲 223.140.192.34 08/08 14:14
63F：推 ltytw: 我很像有看過11代要跨12代那時候 114.33.46.227 08/08 14:21
64F：→ ltytw: 不知道哪個I吹說512沒用了 114.33.46.227 08/08 14:21
65F：推 aegis43210: 轉檔很有用223.140.155.246 08/08 14:39
66F：推 as920909: NPU跟GPU不就是為了算浮點數的嗎 218.172.69.212 08/08 14:42
67F：推 jhjhs33504: 跑大語言模型的回答比較不會出現幻覺 36.228.20.172 08/08 14:50
68F：推 tonyian: 到底誰在用avx512?有這需求的不是都拿GP 39.9.231.251 08/08 15:54
69F：→ tonyian: U或是TPU加速了？ 39.9.231.251 08/08 15:54
70F：推 b325019: 你問那些雲端吧，蘇媽會放這個東西進來大 223.137.23.210 08/08 16:02
71F：→ b325019: 概是按DC客戶的回饋加的 223.137.23.210 08/08 16:02
72F：推 aegis43210: i皇的server都有AVX512呀，蘇嬤在DT端175.181.175.150 08/08 16:21
73F：→ aegis43210: 這樣純粹是debug加上佛心來著沒閹割175.181.175.150 08/08 16:21
74F：→ enonrick: intel 市場行銷的東西先做出來再說，只 111.241.167.51 08/08 17:02
75F：→ enonrick: 是要降頻降溫，code 都要重寫, port難 111.241.167.51 08/08 17:02
76F：→ enonrick: 度高 伺服器端用在加密/hash 加速 ,一 111.241.167.51 08/08 17:02
77F：→ enonrick: 般使用者不需要靠 gpu 做inference ， 111.241.167.51 08/08 17:02
78F：→ enonrick: 多媒體之類的何不用gpu 就好, 猜是想要 111.241.167.51 08/08 17:02
79F：→ enonrick: 吹上面的 NVVI 吧，有實驗宣稱比 gpu 111.241.167.51 08/08 17:02
80F：→ enonrick: 快好幾倍，總之~~讓子彈飛一會~ 111.241.167.51 08/08 17:02
81F：→ enonrick: 啊對了 zluda 被 amd 正式發公文下架了 111.241.167.51 08/08 17:02
82F：→ friedpig: 兩邊DT都馬是Server的白老鼠 需求都是118.163.149.125 08/08 17:28
83F：→ friedpig: Server來的 只是牙膏DT大小核稿到AVX512118.163.149.125 08/08 17:28
84F：→ friedpig: 不好Debug關掉而已118.163.149.125 08/08 17:28
85F：→ friedpig: AMD不知道是比較保守還是客戶壓力沒那麼118.163.149.125 08/08 17:30
86F：→ friedpig: 大 可以比較晚等AVX512成熟一點在實作優118.163.149.125 08/08 17:31
87F：→ friedpig: 秀的硬體 牙膏就比較早硬上慢慢優化118.163.149.125 08/08 17:31
88F：→ friedpig: 牙膏最新的E核看起來還是沒AVX512 DT應118.163.149.125 08/08 17:39
89F：→ friedpig: 該87%又是閹割掉了118.163.149.125 08/08 17:39
90F：推 yymeow: 建議i社把那些面積拿去做L3還比較實際一點 60.250.130.216 08/08 17:40
91F：→ yymeow: 整天搞一些有的沒有的 60.250.130.216 08/08 17:40
92F：→ friedpig: 做硬體的別想太多 食物鏈的下游 很多118.163.149.125 08/08 17:45
93F：→ friedpig: 時候你以為是牙膏想做 客戶說了算118.163.149.125 08/08 17:45
94F：→ friedpig: 不過我到蠻想看牙膏現在高階封裝也是有118.163.149.125 08/08 17:48
95F：→ friedpig: 再碰 能乖乖拉下臉弄個X3D來看看嗎118.163.149.125 08/08 17:49
96F：推 yymeow: i社現在NEX事業群倒是出了一些怪機絲 60.250.130.216 08/08 18:07
97F：→ yymeow: 比如說1851腳位的[真。14代] 60.250.130.216 08/08 18:08
98F：→ leung3740250: MSDT改用NINE L3第4年了還在堆L3，119.237.179.153 08/08 18:09
99F：→ leung3740250: 能不能先查一下牙膏L3到底是怎麼運119.237.179.153 08/08 18:09
100F：→ leung3740250: 作的？119.237.179.153 08/08 18:09
101F：→ yymeow: core ultra 7 165HL之類的 60.250.130.216 08/08 18:09
102F：→ yymeow: 還有什麼i7-14701e的怪東東 60.250.130.216 08/08 18:10
103F：推 birdy590: 我覺得Linus的看法是對的 桌面/一般用途 119.14.42.10 08/08 21:11
104F：→ birdy590: 根本用不上 佔用的空間可以有更好的利用 119.14.42.10 08/08 21:12
105F：→ birdy590: 伺服器之類特殊用途如果需要可以另外出 119.14.42.10 08/08 21:12
106F：推 mayolane: 另外出怎麼玩蘇媽最愛的膠水大法 1.161.79.156 08/08 21:32
107F：→ kamichu: 這次avx512進步那麼多 111.82.129.169 08/08 23:06
108F：→ kamichu: zen5這次可能真的卡在那顆舊的iod 111.82.129.169 08/08 23:08
109F：→ pig: 不會影響到其他東西的avx512其實就沒啥好抱怨218.161.120.232 08/09 11:01
110F：→ pig: 的，用不到的指令集多的是當初就這個被罵翻218.161.120.232 08/09 11:01
111F：→ pig: 主要還是那時候avx512跑起來又熱又慢218.161.120.232 08/09 11:09
112F：推 lwei781: LLM 用CPU 跑有用 36.230.99.117 08/09 17:24
113F：→ lwei781: 這比 NPU 好啊，尤其需要精度的 Mo 36.230.99.117 08/09 17:26
114F：→ lwei781: del 36.230.99.117 08/09 17:26
115F：→ lwei781: NPU 幾乎都 Int, 頂多 BF16 36.230.99.117 08/09 17:27
116F：→ lwei781: Xeon 5代，六代 都有 啊 36.230.99.117 08/09 17:27
117F：推 Litfal: 有沒有一個可能是以前不好用所以沒人用， 27.53.224.2 08/09 19:06
118F：→ Litfal: 不過512需求大多被GPU吃了就是 27.53.224.2 08/09 19:06
119F：推 goldie: 矩陣運算、維度轉換…等會用的到。推！ 111.71.116.71 08/12 10:08