作者robertgarcia (绿头鸭)
看板Stock
标题[新闻] 「HBM之父」：未来AI竞争看记忆体
时间Sat Jul 11 18:39:29 2026
新闻标题：
「HBM之父」：未来AI竞争看记忆体 未来3D架构决胜散热与供电 中美会追赶上来
新闻记者：
钜亨网／记者 陈韦廷
新闻内容：
被韩媒誉为
「HBM 之父」的韩国科学技术院 (KAIST) 教授
金正浩 (Kim Jung-ho) 最新表
示，
AI 的本质就是记忆体。
他在接受《东亚日报》专访时提出上述颠覆性观点时指出，过去业界过度聚焦模型算法与
GPU 算力，但当大模型实际运行时，注意力机制、上下文缓存 (KV Cache) 与推论生成
的每一个环节，都高度依赖记忆体系统的支撑。
金正浩表示，HBM 透过将多层 DRAM 垂直堆叠，大幅拓展资料传输的「车道数」，并生动
比喻称「传统记忆像 8 道高速公路，HBM 则是 1024，甚至 2048 车道，未来可能演进至
百万车道」。
然而，频宽的提升并未根除瓶颈。大模型在输出瞬间需频繁从 HBM 或未来的 HBF(高频宽
闪存) 读写资料，导致 GPU 绝大部分时间处於「等待资料抵达」的闲置状态。
金正浩估计，
即便部署百万个 GPU，真正用於计算的时间仅约 10%，即便透过演算法优化
，也很难超过 30%。
为解决「资料搬运」的能耗与延迟问题，金正浩预测未来 AI 运算将走向「以记忆体为中
心」。
他将理想的 3D 架构比喻为一栋百层大楼：「在一楼安装 GPU，资料只需搭电梯下楼计算
，整栋楼解决所有事，省去长途奔波。」从 HBM4 开始，部分 GPU 功能将整合进记忆体
结构中。
金正浩还进一步描绘三层异质记忆体指出，速度最快的 HBM(堆叠 DRAM) 扮演百货公司存
放热数据，容量巨大的 HBF(堆叠 NAND) 如同公寓楼群存放冷数据，而他提出的 HBS(高
频宽 SRAM) 则作为超低延迟的缓存。GPU/CPU 将置於顶层，专注於散热与调度。
金正浩特别点出，辉达执行长黄仁勳近期频繁访韩，正因 GPU 微架构的效能成长已近停
滞，且高发热特性使其难以像记忆体般大规模堆叠。
他认为，未来 3D AI 电脑的供电与散热能力将成核心竞争力，决定企业生死。这也意味
着拥有 DRAM 与 NAND 双重技术累积的三星与 SK 海力士，有机会在未来架构中占据核心
地位。
不过，金正浩也警示，这并非简单的「GPU 时代」切换为「记忆体时代」，而是 GPU、
HBM、先进封装、网络互连与散热的系统级竞赛。
面对中国业者积极自研 GPU/NPU 并带动本土记忆体发展的追赶压力，金正浩则对韩国业
界直言：「这是一场关系生存的长期竞争，只能努力活到最後。」
完整新闻连结：
https://news.cnyes.com/news/id/6528299
备注：
三星第二季都赚赢辉达了
HBM三大厂加起来赚不知道台积电的几倍
整个DRAM产业营收已经赢过逻辑ic
CPU/GPU算再快没有记忆体也没用
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 39.10.64.205 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1783766371.A.213.html
1F：→ gayst : gpu过剩 崩崩 07/11 18:40
2F：→ jason168 : 可惜台湾吃不到HBM这块大饼Orz07/11 18:40
※ 编辑: robertgarcia (39.10.64.205 台湾), 07/11/2026 18:40:56
3F：推 DiamondAse : 早说，怎麽不早说07/11 18:42
4F：推 ggirls : 中韩你们希望谁赢？这可不是大奶的决择07/11 18:42
5F：嘘 kakalin : 单纯是记忆体补跟上GPU和CPU 发展而已 这咖太浮夸 07/11 18:43
※ 编辑: robertgarcia (39.10.64.205 台湾), 07/11/2026 18:44:13
6F：→ Plumpy : 吹起来 07/11 18:44
7F：推 kmtkmtkmt : 我记得之前有个乡民也说过 类似这种 还真的涨起来 07/11 18:45
8F：→ kmtkmtkmt : 钱真的是留给该赚的人的 07/11 18:46
9F：→ kmtkmtkmt : 现在买都太慢了 07/11 18:46
10F：→ weijunW : 中美一大根 07/11 18:46
11F：→ kmtkmtkmt : 我只有一张50元买的南亚科 买个50.100张 根本发了! 07/11 18:47
12F：推 white1861 : 记忆体死抱 3年！ 07/11 18:48
13F：推 seemoon2000 : 记忆体的爆发还是来自AI Agent才有的 堆叠上下文 07/11 18:50
14F：→ seemoon2000 : 模型迟早会有更快速计算的方式 降低堆叠上下文 07/11 18:51
15F：→ kai55668879 : 楼下darbylu 07/11 18:53
16F：推 foolwind : 迟早是指50年後吗 07/11 18:54
17F：嘘 bxc : 不早说？ 07/11 18:55
18F：推 poeoe : 资料量就是这麽大 跟什麽演算法也没啥关系了 07/11 18:56
19F：推 ssarc : 人家就研究这个的，当然说他最重要 07/11 18:57
20F：→ poeoe : AI如果要贴近人类思考方式 记忆体用量只会越来越大 07/11 18:59
21F：→ poeoe : 而已 07/11 18:59
22F：→ poeoe : 更不用说以後物理模型和自驾对记忆体需求有多高了 07/11 19:00
23F：嘘 yurian : 标题太吹 内文他明明有缩… 07/11 19:00
24F：→ yurian : 目前的傻ai记忆的确是个问题 但现在最大的问题不是 07/11 19:01
25F：→ yurian : 记忆 而是太贵 现在所有实用ai都在涨价限流 当下还 07/11 19:01
26F：→ yurian : 是算力 但他说的电力倒是没错 但那也是要晶片耗电 07/11 19:01
27F：→ yurian : 先下降 不然记忆体无用武之地 07/11 19:01
28F：推 windfeather : 电力：没有我，你们通通都去踩脚踏车发电 07/11 19:01
29F：推 PTTMAXQQ : 这意思是做gpu的其实是过剩了 07/11 19:02
30F：→ PTTMAXQQ : 然後记忆体才是真的缺 07/11 19:02
31F：推 rahim03 : 现在的算力缺不是GPU不够 是记忆体数量跟不上 07/11 19:04
32F：推 kmtkmtkmt : ZZZZZZZZZZZZZ 先定义迟早是多早吧 07/11 19:06
33F：→ kmtkmtkmt : 讲不出来就是空话 07/11 19:07
34F：→ kmtkmtkmt : 在那边迟早的可以去放空 我猜你也是不敢吧 07/11 19:07
35F：推 m180 : 买啥好？dram etf? 07/11 19:08
36F：嘘 roder : 记忆体 is over 07/11 19:10
37F：推 seemoon2000 : 现在记忆体毛利率90% 不合理就是不合理 没什好说的 07/11 19:10
38F：→ cafein : 我还以为是泡菜 07/11 19:10
39F：推 Brioni : 最怕现在存储就如同600块的台积电，再飙上去又是消 07/11 19:12
40F：→ Brioni : 费电子末日 07/11 19:12
41F：推 sim3000 : 反正我all in 988惹 07/11 19:14
42F：推 loveponpon : 我有10几张均价成本200不到的南亚科 07/11 19:19
43F：→ loveponpon : 也有十几张均价成本400的南亚科 哭死 07/11 19:19
44F：推 viginia66 : 记忆体是不是最後一个题材 07/11 19:20
45F：推 eknbz : 人家就研究这个的，当然说他最重要 07/11 19:22
46F：→ eknbz : 你访问做算法的 就会说算法才是灵魂 07/11 19:23
47F：推 luke0407123 : 台积电赶快涨价喔☺ 别赚输记忆体 07/11 19:24
48F：→ bear753951 : 这就是为啥nv没怎麽涨了，瓶颈在其他地方 07/11 19:25
49F：推 seemoon2000 : 瓶颈在巨头快没钱才是真的 07/11 19:27
50F：推 brella : 记忆体的新闻真多 07/11 19:29
51F：推 ben108472 : NV毛利豆包记忆体卡死了，要怎麽涨 07/11 19:29
52F：推 omanorboyo : 瓶颈在於不是金钱无限 07/11 19:29
53F：→ ben108472 : 毛利都被记忆体卡死了 07/11 19:29
54F：推 g27834618 : NV股价也停滞很久了 07/11 19:33
55F：→ sheep2009 : token要变便宜=>应用要爆发 才有用 07/11 19:33
56F：推 david850914 : 记忆体再涨影响巨头现金流 叙事会崩垮 07/11 19:33
57F：推 mark60917 : 我还以为AI的未来是辛奇 07/11 19:35
58F：→ tctv2002 : 在贵也会有上限 巨头不可能无条件支持的 07/11 19:36
59F：嘘 lucky466 : 父就是老北，老北就是负 07/11 19:37
60F：推 julian42 : 瓶颈在金钱没错 巨头一直做不出大赚的应用就会泡沫 07/11 19:37
61F：推 HiuAnOP : 卡哇 IS OVER！ 07/11 19:37
62F：→ HiuAnOP : 好到2030 07/11 19:38
63F：嘘 strlen : 老黄不也频繁来台湾？跟这个哪有关系 07/11 19:39
64F：推 gtaped05550 : 怎不早说 07/11 19:40
65F：推 DustToDust : 记忆体要先变白菜价ai才会起飞吗 07/11 19:40
66F：→ bear753951 : 现在就是基建的比拼，再贵都必须建，不能输别人 07/11 19:40
67F：→ KY1998 : AI只能成功，失败连GG也跟着死 07/11 19:41
68F：推 poeoe : 巨头们都知道AI是最终决战 没人会想落後 连META都在 07/11 19:45
69F：→ poeoe : 拼命追了 07/11 19:45
70F：→ tctv2002 : 这样的话 苹果或许是真的聪明 用合作方式就好 无 07/11 19:46
71F：→ tctv2002 : 底洞 07/11 19:46
72F：→ KY1998 : 其他就是政治问题，美国不会待在原地等中国追上来 07/11 19:47
73F：推 sunrise1748 : 不妨碍空蛙看空，但是空蛙也不敢真的空 07/11 19:48
74F：→ jalai : 错错错: 未来AI竞争是全面性的 你CPO做不出来也没用 07/11 19:50
76F：→ s213092921 : 长鑫也在玩韬定律 07/11 19:52
77F：嘘 asws0808 : 干勒 怎麽不早说，整天鬼故事== 07/11 19:54
78F：推 qxpbyd : 99 DRAM 07/11 19:58
79F：推 zaibright : 还是买台湾的专长 晶片制造的部分就好了 现在 07/11 20:00
80F：→ zaibright : 买记忆体 太慢了吧会整天担心 07/11 20:00
81F：推 qweertyui891: 救救988 07/11 20:00
82F：推 kuominj : 记忆体都跌烂了吧 07/11 20:01
83F：推 bunjie : 记忆体价格先下来才有机会 07/11 20:13
84F：推 seacall : 散热是要动了没 07/11 20:14
85F：→ zixiang : HBM之父不吹记忆体要吹什麽 07/11 20:16
86F：→ cchen : 订阅了吗 07/11 20:17
87F：推 focus0120 : 先前鬼故事组合拳压价为真 07/11 20:19
88F：推 karta018 : 下一个，电力大师，AI没电记忆体也只是垃圾 07/11 20:20
89F：推 fafcfh : 利多新闻狂发，结果记忆体族群破月线破季线 07/11 20:21
90F：推 pikachu123 : Hbm 完全跟台湾没关系啊 07/11 20:22
91F：推 energy100203: 他很顶吗 07/11 20:29
92F：推 littlemisspr: 先进的设备都是贵，以前记忆体也超级贵 07/11 20:29
93F：推 ksjr : 我们需要的是DRAM之父 07/11 20:29
94F：→ jason88633 : 这韩国人很有名，喊得非常早..听他的都财富自由了 07/11 20:29
95F：推 redsoxortiz : 喷出 07/11 20:29
96F：→ sheep2009 : hbm+hbf吧 07/11 20:30
97F：推 david850914 : 先把记忆体打下来才能继续吹啊 07/11 20:34
98F：→ raku : 放屁 07/11 20:37
99F：推 hate56 : 南韩人真的超会自吹 07/11 20:39
100F：→ raku : 台达电：ai的本质是供电跟散热 07/11 20:41
101F：推 poeoe : 他预测很准 今天HBM的盛况完全被说中了 07/11 20:41
102F：→ raku : 效能瓶颈发生在最烂最慢的地方 现在就是记忆体不长 07/11 20:42
103F：→ raku : 进卡住 07/11 20:42
104F：推 KerLu : 闪迪 继续低调 07/11 20:42
105F：推 Kobe5210 : 从GPU，到CPU，到记忆体 07/11 20:43
106F：推 poeoe : 海力士深耕10年的HBM 总算在AI时代起飞了 07/11 20:45
107F：→ FatFatQQ : 记忆体本来就很重要 07/11 20:48
108F：推 alberthcc : 确实，人类没有记忆也只是躯壳；但是有记忆不会提 07/11 20:50
109F：→ alberthcc : 取出来使用，没有神经网络，你记忆体也只是一块放 07/11 20:50
110F：→ alberthcc : 资料的抽屉而已，等着发霉。 07/11 20:50
111F：推 ahg : 呵 07/11 20:50
112F：嘘 s1612316 : 算力才是好吗 不懂装懂 07/11 20:52
113F：→ s1612316 : 你脑容量大如宇宙 但你不能思考 不能推理 有屁用 07/11 20:53
114F：→ sheep2009 : 就短版效应 现在轮到记忆体而已 之後看来是光通 07/11 20:54
115F：推 TaiwanUp : 好 亚利桑那盖记忆体厂 07/11 20:54
116F：→ TaiwanUp : 南亚科 华邦电 前进亚利桑纳! 07/11 20:56
117F：推 bigair888 : 就美光 三星 海力士 07/11 20:56
118F：→ bigair888 : 其实都要 但是记忆体更重要 07/11 20:57
119F：→ TaiwanUp : 瓶颈是记忆体频宽 以上两家听命於台积电即可 07/11 20:58
120F：→ TaiwanUp : 南亚科 华邦电 全力投资记忆体频宽的研究 07/11 20:58
121F：嘘 Luwan : 继续吹 07/11 21:00
122F：嘘 kload : 南朝鲜人又在发梦了 07/11 21:01
123F：→ b9513227 : 我真的不知道毛利率90%是还能爽多久 07/11 21:02
124F：→ b9513227 : 被脑粉吹最有钱的狗家都在借钱了 07/11 21:03
125F：推 kenro : 专访可以看一下这人说的没错，可惜台湾这方面没做起 07/11 21:06
126F：嘘 js70864444 : 装什麽B 07/11 21:06
127F：推 tony890415 : 存为王 HBM用的比逻辑多 07/11 21:06
128F：推 grtfor : 说个笑话 超导体 07/11 21:08
129F：推 DarkerDuck : 存算一体讲很久了，人脑就是存算一体才能超省电 07/11 21:08
130F：→ DarkerDuck : 而AI真的要商业规模化最需要的的确也是记忆体 07/11 21:08
131F：→ DarkerDuck : 需要大量算力的预训练阶段已经差不多了 07/11 21:09
132F：推 koushimei : 厉害 大宗商品可以吹成这样 07/11 21:12
133F：推 sdbb : 推黑鸭，押注记忆体技术就对了，但不限於HBM 07/11 21:13
134F：→ tw411001 : 台湾记忆体跟HBM有关系的：没有 07/11 21:13
135F：→ bnn : compute-in-memory出来又会产生版图巨变 07/11 21:15
136F：推 RaiGend0519 : 我只觉得再高的愿景最终都要回归市场支撑 07/11 21:18
137F：→ jjjj222 : 台积电应该也涨价把毛利拉到80% 07/11 21:19
138F：→ jjjj222 : 这样记忆体需求就会下去了 07/11 21:19
139F：推 rcf150cc : 假日鬼故事+1 07/11 21:23
140F：→ Altair : 把记忆体吹得比GPU CPU还高 XD 07/11 21:24
141F：推 jen1121 : CoWoS整合需要台积电认证，当GG吃素吗 07/11 21:24
142F：推 Brioni : 看起来还很多人怀疑，代表还有喷发空间 07/11 21:28
143F：推 amig0123 : 赚太多了 07/11 21:31
144F：推 pziix : 什麽猪脑袋 才能说出这麽好笑的东西 07/11 21:34
145F：推 DoraPtt : 记忆体跟GPU包一起看怎麽进步吧 07/11 21:44
146F：→ raku : 笑死 请问美光台湾厂生产的HBM 算不算GDP? 07/11 21:45
147F：→ raku : 现在效能也不是卡记忆体频宽 而是三大厂联手控制产 07/11 21:47
148F：→ raku : 能（不大幅扩产）来获取高额毛利 07/11 21:47
149F：推 Brioni : 算啊，美光台湾厂算台湾出口额 07/11 21:47
150F：→ raku : 这种行为不可能长久的 三星海力士也知道 所以在能 07/11 21:48
151F：→ raku : 赚的时候尽量拉高价格赚 07/11 21:48
152F：→ Brioni : 目前伺服器生产瓶颈就在HBM，营运瓶颈在电力 07/11 21:48
153F：推 g9911761 : 台湾没高阶记忆体可惜了 07/11 21:49
154F：推 Arctica : 99mu!! 07/11 21:50
155F：推 limulus : 顺序很重要，今天并非记忆体先突破而创造出AI的需 07/11 21:51
156F：→ limulus : 求，是nVidia首先开创出AI，其他周边才跟着有了发 07/11 21:51
157F：→ limulus : 展的目标及方向。那麽会吹记忆体，怎没比老黄早先 07/11 21:51
158F：→ limulus : 开发出AI?事後诸葛人人都会，但敢砸大钱研发试误开 07/11 21:51
159F：→ limulus : 创的人少之又少啦 07/11 21:51
160F：推 butz85 : 未来无脑,不用记忆体了QQ 07/11 21:53
161F：推 a069275235 : 不是哲哲吗 07/11 21:53
162F：推 Brioni : 记忆体慢计算单元跟快取太多 07/11 21:56
163F：→ Brioni : 变成计算迁就记忆体速度 07/11 21:57
164F：推 madeinheaven: 未来就是记忆体内计算 07/11 21:59
165F：推 silentence : 听他在喇叭 没其他深度学习的运算逻辑 靠他 07/11 22:01
166F：推 KerLu : 讲这麽 华西街一个鬼故事 还是跌10%。 07/11 22:01
167F：→ silentence : 记忆体有屌用喔 07/11 22:01
168F：推 siki588 : 相信魏哲家 旁边去玩沙 07/11 22:05
169F：推 dvr : 笑死 韩国人真的喇吧 07/11 22:07
170F：推 KY1998 : GPU CPU RAM 都不重要，赶快去买玻璃~ 07/11 22:10
171F：推 jympin : 贵成这样 大家一定会想办法降低依赖啦 07/11 22:11
172F：推 eknbz : 散热和电供也可以用类似的逻辑写一篇 07/11 22:13
173F：→ eknbz : 所以到底谁重要其实不重要 能掌握市场炒什麽才重 07/11 22:15
174F：→ kanehhh : 记忆体墙迟早会破，先不要说太早 07/11 22:16
175F：推 madeinheaven: 看财报就知了 世界第一第二赚钱的企业都是记忆体 07/11 22:18
176F：嘘 ISCREDIBLE : 找记忆体人说记忆体需求强劲？ 07/11 22:21
177F：嘘 whitetiger : 怎麽降低依赖? 用中国货? 更不用说中国哪来HBM? 07/11 22:22
178F：推 Armin : 买存储三年後对答案 07/11 22:23
179F：→ bh2142 : 所以要用TPU啊，从根本解决冯纽曼架构的瓶颈 07/11 22:23
180F：推 sonycat0615 : 所以GG要被蛋刁了吗 07/11 22:24
181F：推 Brioni : 跟技术无关，涨价最大 07/11 22:29
182F：推 blue821229 : 看一堆低能留言就知道尽管是大多头 赚钱的永远是少 07/11 22:29
183F：→ blue821229 : 数人 07/11 22:30
184F：→ Looming : 没什麽技术护城河最後变成commodity的东西 07/11 22:31
185F：推 tony890415 : TPU 还是要HBM 07/11 22:33
186F：→ tony890415 : 950DT有HBM 所以大家都缺 07/11 22:33
187F：→ Heedictator : 韩国人即将统治世界 07/11 22:38
188F：推 clamperni : 卡哇要飙了 07/11 22:39
189F：推 lancechance : 後天开盘市价+200%买进 07/11 22:41
190F：推 ureikaze : 含狗就是神，痴豕的那种 07/11 22:48
191F：推 redbeanbread: 美国盘子会买单 不怕 07/11 23:00
192F：推 lrock : 155楼，老黄也没预测到是这样发展的，一切都是浪潮 07/11 23:03
193F：→ noomlluf72 : 三星真的很夸张 07/11 23:08
194F：推 egghan : 我到处去说未来靠我儿子人家一定觉得我神经病 07/11 23:20
195F：推 ghfjdksla : 被动不是说更猛吗～ 07/11 23:30
196F：→ necrophagist: Autoregressive LLM一个个token预测的才很吃记忆体 07/12 00:22
197F：→ necrophagist: 频宽 其它也有diffusion运算的就是算力 07/12 00:22
198F：推 swgun : 韩国人跟中国人都比吹的 07/12 00:41
199F：嘘 pf775 : 韩国人有技术？ 07/12 02:01
200F：推 omoqq : 看这串留言真的一堆低能 难怪股市赚钱的少数人哈哈 07/12 02:40
201F：→ omoqq : 哈 07/12 02:40
202F：→ yunf : 别人就说了不用你hbm也没差 07/12 03:48
204F：→ yunf : 看就知道老王卖瓜 07/12 03:50
205F：嘘 myth0422 : 明明就是晶片 三星做不赢gg就在那边瞎说 07/12 07:38
206F：推 pppopp : 哇靠 什麽都是韩国的啊 07/12 08:08
207F：推 asahi98 : 确实，都在等资料传输比较花时间 07/12 08:19
208F：嘘 fallinlove15: 太自大了吧 07/12 08:21
209F：推 qoo10067 : 记忆体只要产能开下去，没什麽技术 07/12 08:41
210F：→ qoo10067 : 韩国的话都要打6折 07/12 08:42
211F：推 chrischiu : 反正都是非红供应链赚钱 07/12 08:42
212F：推 futen424 : 记忆体不问记忆体专家，不然要去问谁，笑死酸民 07/12 10:23
213F：→ mini178 : 你哪位 我只服 金特务 07/12 10:35
214F：→ bndan : 说个笑话 AI世代本质是记忆体 XD 07/12 10:55
215F：→ bndan : 之前说的以後什麽需求都直接用"颗粒" 解决就好 韩式 07/12 10:56
216F：→ bndan : 印钞的锣辑 XD 07/12 10:56
217F：→ peterors : 拉回就是埋点阿 冲冲冲 07/12 10:58
218F：→ bigair888 : 散热 跟核能是吧 07/12 13:25
219F：嘘 fishfi : 早说 07/12 14:10
220F：推 GinginDenSha: 现代AI的本质是吃上文reason下文好吗 07/12 14:15
221F：推 zxc90376 : 他是真的是这方面权威，Kaist ee扛坝子欸 07/13 00:37