作者SkyPlus (Sky)
看板PC_Shopping
标题[情报] Zen5 AVX512 分析
时间Thu Aug 8 09:39:45 2024
http://www.numberworld.org/blogs/2024_8_7_zen5_avx512_teardown/
虽然 Zen5 初期测试报告有点不尽人意
不过刚刚看到这篇文章大力赞扬 Zen5 AVX512 设计,
和 Zen4 AVX512 相比, Zen5 IPC成长几乎快了 100%
这是因为 Zen4 用 4 x 256-bit 的通道组合出来
连 Intel 只有 server 等级的 Sapphire Rapids 才给的起 2 x 512-bit
但这次 zen5 桌面版大核就很大方的给了 4 x 512-bit
因此反映在效能上就直接爆涨了
另外 Intel 常被诟病 AVX512 需要先花一些时间(约50000 cycle)低速跑，
等电上去，CPU降速才能全速跑。但 Zen5 可能靠设计和制程完全解决这问题，
不需降速也不用等，下指令後几乎立即全速运作。
此外 Intel 在 Tiger Lake 加了 AVX512-VP2INTERSECT 指令，
但速度超级慢 (25 cycle)，大家都用别的指令去模拟还比较快，
因此 Intel 在往後的 CPU 也移除他。
这次 Zen5 实作了这个指令，而且只花 1 cycle 就完成。
综合这些分析，他认为Zen5可以说第一次让大家看到完整版的 AVX-512。
反观 Intel 设计了却四处限制...
他还有提到 Cinebench, CPU-Z 都没有很认真测试 AVX-512,
因此看不出Zen5在这方面的优势。
不过有些 Zen4 可以在 1 cycle 做完的非 AVX-512 SIMD，
在 Zen5 反而不明原因退步到 2 cycle，
另外混合 AVX-256,512 指令的顺序不对也会变慢
--
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.113.235.116 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1723081201.A.DFA.html
1F：推 smallreader: 重返荣耀！ 223.139.184.93 08/08 09:42
2F：推 ltytw: i粉正在尝试关心 ： 既然以前i被说avx512 114.33.46.227 08/08 09:45
3F：→ ltytw: 超热超耗电又要让U降频跑 那这次的zen5呢 114.33.46.227 08/08 09:46
4F：推 Fortis931: i吹讨厌 36.238.95.84 08/08 09:58
5F：→ Fortis931: 这篇 并试着无视 36.238.95.84 08/08 09:59
6F：推 orze04: 不知道Linus 大神如何看待… 114.136.57.150 08/08 10:01
7F：推 johnson0319: 新一代RPCS3神器 104.28.232.15 08/08 10:05
8F：推 mayolane: 之前用7950X的AVX-512挖矿的还在吗 114.136.146.11 08/08 10:19
9F：推 qwe753951: 超缺频宽 211.20.26.1 08/08 10:33
10F：→ qwe753951: X3D快来 211.20.26.1 08/08 10:34
11F：→ seiya2000: AVX-512做什麽用？ 39.10.8.235 08/08 10:36
12F：推 Gwaewluin: 这个之前好像看到能挖矿的样子 114.137.153.82 08/08 10:44
13F：推 arnold3: 游戏好像用不到? 119.14.100.51 08/08 10:46
14F：→ arrenwu: AVX2应用比较广泛 AVX512不知道那些软体 98.45.195.96 08/08 10:47
15F：→ arrenwu: 现在有在用 98.45.195.96 08/08 10:47
16F：推 mayolane: So sorry to disappoint the RPCS3 com 114.136.146.11 08/08 10:47
17F：→ mayolane: munity here. As much as they love AV 114.136.146.11 08/08 10:47
18F：→ mayolane: X512, they primarily only use 128-bi 114.136.146.11 08/08 10:47
19F：→ mayolane: t AVX512 - which does not significan 114.136.146.11 08/08 10:47
20F：→ mayolane: tly benefit from Zen5's improvements 114.136.146.11 08/08 10:47
21F：→ mayolane: to the vector unit. 114.136.146.11 08/08 10:47
22F：→ mayolane: RPCS3没什麽用 114.136.146.11 08/08 10:47
23F：嘘 DrGun: 8要再反观惹！收盘只剩18.99 天下苦皇久矣 1.163.252.225 08/08 10:53
24F：→ DrGun: ！！ 1.163.252.225 08/08 10:53
25F：推 chiahong1227: AVX-512 普通消费者用不到也是事实 140.114.85.131 08/08 11:12
26F：推 leviva: 普通游戏用不到，PS3模拟器有用到的样子 27.52.41.115 08/08 11:14
27F：推 qwe753951: 一般人用不到是事实 211.20.26.1 08/08 11:19
28F：推 yankeefat: i皇今年已经跌掉60%了 123.204.11.71 08/08 11:28
29F：推 kamichu: 等X3D应该猛猛的 111.82.252.188 08/08 11:45
30F：推 amos30627: G叔吹18A股价18块 等他吹14A的时候会剩 101.9.133.227 08/08 11:50
31F：→ amos30627: 14块 101.9.133.227 08/08 11:50
32F：→ amos30627: 看他是制程吹的快还是股价跌的快 101.9.133.227 08/08 11:51
33F：推 wantsu: PS2模拟器好像会用到 125.228.171.79 08/08 12:12
34F：→ mayolane: PS3模拟器有用 114.136.146.11 08/08 12:17
35F：推 Arbin: 那PS3模拟器应该会跑更快了吧xd 223.140.213.77 08/08 12:21
36F：→ mayolane: PS3模拟器就上面说的RPCS3，看起来Zen5 223.136.78.202 08/08 12:24
37F：→ mayolane: 不会比较快 223.136.78.202 08/08 12:24
38F：推 easyman: X3d加上avx512 ,跑llama小model,应该个 42.73.70.132 08/08 12:24
39F：→ easyman: 人使用也不错 42.73.70.132 08/08 12:24
40F：推 tim108108: cpu跑大语言模型可以用avx512加速 42.73.75.255 08/08 12:27
41F：推 Lansbury: 没想到自己搞得专用指令 AMD才能好好发 49.217.128.171 08/08 12:36
42F：→ Lansbury: 挥 可悲 49.217.128.171 08/08 12:36
43F：推 wahaha99: 可是这超级耗电晶体耶 能照顾到的 118.169.27.203 08/08 12:43
44F：→ wahaha99: 应用有限说... 118.169.27.203 08/08 12:43
45F：→ ybite: 指令集的改善我觉得要等程式编译执行时最佳 42.70.227.91 08/08 12:45
46F：→ ybite: 化才能展现 42.70.227.91 08/08 12:45
47F：→ wahaha99: 主要是应用太少 当年推出时几乎没什麽 118.169.27.203 08/08 12:48
48F：→ wahaha99: 地方用的上 到现在有AI可以用上 118.169.27.203 08/08 12:48
49F：→ wahaha99: 但GPU跟NPU他不香吗... 为什麽要用CPU 118.169.27.203 08/08 12:49
50F：推 mayolane: 但Zen5塞了AVX-512还没有比Zen4核心大 140.112.55.67 08/08 12:53
51F：→ mayolane: 颗 140.112.55.67 08/08 12:53
52F：→ mayolane: 制程也没用进步很多 140.112.55.67 08/08 12:54
53F：推 ltytw: cpu还是比较通用 114.33.46.227 08/08 13:00
54F：→ alvistan: 重点是这次看起来不占空间 101.10.57.167 08/08 13:31
55F：推 b325019: 原本以为塞avx512会很肥，结果塞了4路进 223.137.23.210 08/08 13:39
56F：→ b325019: 去整体面积跟上代差不多真猛 223.137.23.210 08/08 13:39
57F：推 mtc5566: 我猜AMD先上 过几年Intel又会出来AXV51W 118.231.208.21 08/08 13:46
58F：→ mtc5566: 无用论 118.231.208.21 08/08 13:46
59F：推 kaj1983: 台积电就是猛 36.238.142.66 08/08 13:48
60F：推 SHR4587: 伺服器资料中心那边avx512有甚麽用吗? 111.241.132.33 08/08 14:12
61F：→ SHR4587: 毕竟AMD EPYC跟Ryzen用的料几乎是一样的 111.241.132.33 08/08 14:13
62F：推 EXTECH: RPCS3全顺炮 223.140.192.34 08/08 14:14
63F：推 ltytw: 我很像有看过11代要跨12代那时候 114.33.46.227 08/08 14:21
64F：→ ltytw: 不知道哪个I吹说512没用了 114.33.46.227 08/08 14:21
65F：推 aegis43210: 转档很有用223.140.155.246 08/08 14:39
66F：推 as920909: NPU跟GPU不就是为了算浮点数的吗 218.172.69.212 08/08 14:42
67F：推 jhjhs33504: 跑大语言模型的回答比较不会出现幻觉 36.228.20.172 08/08 14:50
68F：推 tonyian: 到底谁在用avx512?有这需求的不是都拿GP 39.9.231.251 08/08 15:54
69F：→ tonyian: U或是TPU加速了？ 39.9.231.251 08/08 15:54
70F：推 b325019: 你问那些云端吧，苏妈会放这个东西进来大 223.137.23.210 08/08 16:02
71F：→ b325019: 概是按DC客户的回馈加的 223.137.23.210 08/08 16:02
72F：推 aegis43210: i皇的server都有AVX512呀，苏嬷在DT端175.181.175.150 08/08 16:21
73F：→ aegis43210: 这样纯粹是debug加上佛心来着没阉割175.181.175.150 08/08 16:21
74F：→ enonrick: intel 市场行销的东西先做出来再说，只 111.241.167.51 08/08 17:02
75F：→ enonrick: 是要降频降温，code 都要重写, port难 111.241.167.51 08/08 17:02
76F：→ enonrick: 度高 伺服器端用在加密/hash 加速 ,一 111.241.167.51 08/08 17:02
77F：→ enonrick: 般使用者不需要靠 gpu 做inference ， 111.241.167.51 08/08 17:02
78F：→ enonrick: 多媒体之类的何不用gpu 就好, 猜是想要 111.241.167.51 08/08 17:02
79F：→ enonrick: 吹上面的 NVVI 吧，有实验宣称比 gpu 111.241.167.51 08/08 17:02
80F：→ enonrick: 快好几倍，总之~~让子弹飞一会~ 111.241.167.51 08/08 17:02
81F：→ enonrick: 啊对了 zluda 被 amd 正式发公文下架了 111.241.167.51 08/08 17:02
82F：→ friedpig: 两边DT都马是Server的白老鼠 需求都是118.163.149.125 08/08 17:28
83F：→ friedpig: Server来的 只是牙膏DT大小核稿到AVX512118.163.149.125 08/08 17:28
84F：→ friedpig: 不好Debug关掉而已118.163.149.125 08/08 17:28
85F：→ friedpig: AMD不知道是比较保守还是客户压力没那麽118.163.149.125 08/08 17:30
86F：→ friedpig: 大 可以比较晚等AVX512成熟一点在实作优118.163.149.125 08/08 17:31
87F：→ friedpig: 秀的硬体 牙膏就比较早硬上慢慢优化118.163.149.125 08/08 17:31
88F：→ friedpig: 牙膏最新的E核看起来还是没AVX512 DT应118.163.149.125 08/08 17:39
89F：→ friedpig: 该87%又是阉割掉了118.163.149.125 08/08 17:39
90F：推 yymeow: 建议i社把那些面积拿去做L3还比较实际一点 60.250.130.216 08/08 17:40
91F：→ yymeow: 整天搞一些有的没有的 60.250.130.216 08/08 17:40
92F：→ friedpig: 做硬体的别想太多 食物链的下游 很多118.163.149.125 08/08 17:45
93F：→ friedpig: 时候你以为是牙膏想做 客户说了算118.163.149.125 08/08 17:45
94F：→ friedpig: 不过我到蛮想看牙膏现在高阶封装也是有118.163.149.125 08/08 17:48
95F：→ friedpig: 再碰 能乖乖拉下脸弄个X3D来看看吗118.163.149.125 08/08 17:49
96F：推 yymeow: i社现在NEX事业群倒是出了一些怪机丝 60.250.130.216 08/08 18:07
97F：→ yymeow: 比如说1851脚位的[真。14代] 60.250.130.216 08/08 18:08
98F：→ leung3740250: MSDT改用NINE L3第4年了还在堆L3，119.237.179.153 08/08 18:09
99F：→ leung3740250: 能不能先查一下牙膏L3到底是怎麽运119.237.179.153 08/08 18:09
100F：→ leung3740250: 作的？119.237.179.153 08/08 18:09
101F：→ yymeow: core ultra 7 165HL之类的 60.250.130.216 08/08 18:09
102F：→ yymeow: 还有什麽i7-14701e的怪东东 60.250.130.216 08/08 18:10
103F：推 birdy590: 我觉得Linus的看法是对的 桌面/一般用途 119.14.42.10 08/08 21:11
104F：→ birdy590: 根本用不上 占用的空间可以有更好的利用 119.14.42.10 08/08 21:12
105F：→ birdy590: 伺服器之类特殊用途如果需要可以另外出 119.14.42.10 08/08 21:12
106F：推 mayolane: 另外出怎麽玩苏妈最爱的胶水大法 1.161.79.156 08/08 21:32
107F：→ kamichu: 这次avx512进步那麽多 111.82.129.169 08/08 23:06
108F：→ kamichu: zen5这次可能真的卡在那颗旧的iod 111.82.129.169 08/08 23:08
109F：→ pig: 不会影响到其他东西的avx512其实就没啥好抱怨218.161.120.232 08/09 11:01
110F：→ pig: 的，用不到的指令集多的是当初就这个被骂翻218.161.120.232 08/09 11:01
111F：→ pig: 主要还是那时候avx512跑起来又热又慢218.161.120.232 08/09 11:09
112F：推 lwei781: LLM 用CPU 跑有用 36.230.99.117 08/09 17:24
113F：→ lwei781: 这比 NPU 好啊，尤其需要精度的 Mo 36.230.99.117 08/09 17:26
114F：→ lwei781: del 36.230.99.117 08/09 17:26
115F：→ lwei781: NPU 几乎都 Int, 顶多 BF16 36.230.99.117 08/09 17:27
116F：→ lwei781: Xeon 5代，六代 都有 啊 36.230.99.117 08/09 17:27
117F：推 Litfal: 有没有一个可能是以前不好用所以没人用， 27.53.224.2 08/09 19:06
118F：→ Litfal: 不过512需求大多被GPU吃了就是 27.53.224.2 08/09 19:06
119F：推 goldie: 矩阵运算、维度转换…等会用的到。推！ 111.71.116.71 08/12 10:08