作者LDPC (Channel Coding)
看板Stock
标题Re: [新闻] 三星高层揭AI瓶颈：转向记忆体运算与先进
时间Sun Aug 30 13:28:49 2026
在老黄定律没出现前 运算效能大体就是照摩尔定律走
直到老黄提了个老黄定律 就是GPU计算效能每两年翻倍
(或者有人认为老黄曾说过 智慧（AI）晶片的效能每十年会提升 1,000 倍 )
从早期显卡TNT那款开始 老黄的算力就是系统上 软体硬体多核 去达到这效果
现在的GenAI的核心就是Autoregressive 简单说就是token资讯是一颗颗产
因此算力和记忆体坪宽速度 可以互换
白算盘说过 你资讯产量 可以用很少记忆体 但是每次需要资讯重新计算就好
这就是透过大量算力换取记忆体小
反之 你也可以透过记忆体把事先资讯记忆好 不用重复计算 这就是用大量记忆换算力
现在的趋势很明显 你的算力在制程和架构上(比方GB200 拿两个晶片 先进封装合体)
这是个有极限 那按照老黄定律 算力就是系统整合的优化表现
那最简单提高算力就是 把记忆体坪宽速度再追加 所以有了HBM 透过记忆体加速
然後记忆体要再加大加快 就是把HBM的层数往上叠 又或者最近的NVHBM
那就是把控制放到记忆体那边 直接硬生生提高记忆体传输速度
这种系统层面就老黄强项啊 以前单颗晶片算力快 很多人当初吹得比老黄单晶片快
但拉到Data Center 老黄就是比人家强 靠者NVLink 一堆串连
就能提供整体算力比别家快 老黄就喜欢拉者一堆供应链整合
去痛揍竞争对手 从用台积电产能卡苏妈 当年就玩过一次
现在老黄想要靠算力去揍人 就是走记忆体坪宽速度 这条路好处是 现在供应链都老黄人
日本韩国台湾 先进制程 ABF HBM 很早就有人说过算力大战就是当年显示卡算力大战
当年老黄拉者技嘉 微星 一票OEM 去胖揍3DFX这个自己想搞自己品牌显卡
老黄定律 这条路只是重新再走过一次 AI晶片大战 这就是意味者 算力(超级电脑)
是一个软体硬体全面整合的结果 这条路的终点 就是资料中心的建成
你其他算力小队 只能靠架构去打 如果也要靠系统整合去提高算力 就会被HBM/ABF
先进制程 台积产能 这些厂商供应链卡死 我现在不买老黄是因为我已经有够多老黄
加上他市值太大 没有敷糗了
所以我宁愿赌苏妈 苏妈不可能会输的 喊出我立志余生不再为哈佛MBA工作
这个公司一定能上2T 是不可能会输的QQ 狗家就纯生态圈 TPU就算是老二老三也不影响
他就是那个狗家圣殿
算力以後主流现在一定是朝坪宽速度这个来 存<->算 互换 就是记忆卡哇算力卡哇未来
坪宽速度你可以靠叠加HBM 老黄只是走了另一条捷径 把控制器放到HBM 加快速度
这另一个好处就是 你家的HBM客制化给老黄用後 其他算力小队是不能直接用
※ 引述《psw (ICK)》之铭言：
: 我看不懂这zHBM
: 现意思是出现NVHBM可跟逻辑闸GPU搭让三星吓到要自创新规格意思？
: 毕竟记忆体离GPU太远会拖慢运算效率？
: 强者解释一下
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 98.37.67.135 (美国)
1F：推 joey2k14 : AMD 1000 08/30 13:31
2F：推 rebel : 为什麽是压AMD?现在有推出什麽惊艳的晶片或产品吗 08/30 13:35
就楼下这个概念 ai模型已经开始有 豪华版跟铜板价 两者都是有大量市场
以後的算力平台八成也是这样 豪华版跟铜板价 算力需求过大 老二喝汤 但股价上升幅度
会比老大快 因为市值低 就只是单纯这样的猜测 以及赌上苏妈的人格特质
3F：推 POWERSERIES : AMD就是平穷版GPU 08/30 13:37
4F：推 HiuAnOP : 苏妈在供应链会被老黄玩死-.- 08/30 13:40
5F：推 poeoe : 确实啊 老黄市值已经很高了 买一些相对没那麽高的不 08/30 13:43
6F：→ poeoe : 错 08/30 13:43
7F：推 madeinheaven: 还不如买三星现在市值才1.23兆美 08/30 13:47
满手记忆体个股和dram.....@@/ 记忆小队 忠诚 这场战争赢了我们就能回家了
※ 编辑: LDPC (98.37.67.135 美国), 08/30/2026 13:59:29
8F：推 rebel : 我年初也是类似的想法 不过今年以来我觉得AMD跟老 08/30 13:59
9F：→ rebel : 黄技术差距 没有追近还被拉开了一点 虽然股价有追 08/30 13:59
10F：→ rebel : 上 不过我老黄还不够多 我还是先补老黄跟三大CSP 08/30 13:59
我老黄已经多到 股息换算成月薪约等台湾22k了.现在买股就着重在记忆sector+苏妈+狗家
11F：推 ccloudd : 呜呜呜买到美股DRAM ETF 70往下捡到55 08/30 13:59
※ 编辑: LDPC (98.37.67.135 美国), 08/30/2026 14:01:44
※ 编辑: LDPC (98.37.67.135 美国), 08/30/2026 14:02:41
12F：→ CreatorK : 99苏妈 和苏妈合作的CBRS应该还有救吧 高位套牢 08/30 14:05
13F：推 sdbb : 谢谢 08/30 14:06
14F：→ mystage : 我现在手上就是老黄家跟狗狗家，加上被套牢的核能 08/30 14:09
15F：→ mystage : 股。我家人问我美股要买什麽，我一样说买NVDA。我 08/30 14:09
16F：→ mystage : 才不要家人亏钱了回来找我碎念 08/30 14:09
17F：推 rayisgreat : 推LDPC大大分享 08/30 14:17
18F：推 roseritter : 推 08/30 14:23
19F：推 squelch : 记忆体直接运算的成品 目前只看到中国跟美国有而已 08/30 14:27
20F：→ squelch : 其他公司还没看到 08/30 14:27
21F：→ squelch : 记忆体直接运算是用在已经建好的AI 模型 加快AI模 08/30 14:28
22F：→ squelch : 型输出结果 08/30 14:28
23F：→ squelch : 跟简单来说是用在推理 ，而不是AI 建模，虽然叫记 08/30 14:29
24F：→ squelch : 忆体但不同结构 作用也不同 08/30 14:29
25F：推 josephpu : aws看到老黄nvhbm马上贴上去了 08/30 14:33
26F：推 TIPPK : 看来要买AMD了QQ 08/30 14:38
27F：推 gladopo : 吹的是老黄，买的是苏妈@@ 08/30 14:55
28F：推 jerrychuang : 请教LDPC大大，那以後真的HBM只需8hi，然後靠NVlink 08/30 14:58
29F：→ jerrychuang : 之类的连结吗? 甚至只需要4hi，不太需要12hi, 16hi 08/30 14:58
30F：→ jerrychuang : 了吗? 08/30 14:58
31F：推 a2080259 : 满手美股记忆体 ...@@ 08/30 15:12
32F：→ roseritter : 改8hi 似有出货量考量 一来损耗较少 二来同产量可 08/30 15:13
33F：→ roseritter : 装更多柜 08/30 15:14
34F：→ as6633208 : 其实nv的技术还是很强老实的说，黄氏定律基本已经超 08/30 15:14
35F：→ as6633208 : 越摩尔定律，目前来看 08/30 15:14
36F：→ bndan : 要走到存算互换的"商业"格局 主要来至於单位效能价 08/30 15:57
37F：→ bndan : 格竞争 做不到这点 存换互换的价值拉不上台面..举例 08/30 15:58
38F：→ bndan : 当初SSD为什麽会火爆? 因为速度远高於原本的HD? 重 08/30 15:58
39F：→ bndan : 点是本IO就是门槛 透过高量升级门槛能造成整体系统 08/30 15:59
40F：→ bndan : 效能和架构可能性爆发..但这是纯技术角度 说白了HDD 08/30 15:59
41F：→ bndan : 扣除掉物理限制问题 难道不能再快吗? 其实可以嘛 那 08/30 16:00
42F：→ bndan : 为啥更快的没有变标配 反而是7200转的变常态标配?说 08/30 16:00
43F：→ bndan : 白了不就是单位效能价格的问题吗 =_=..这波记忆体也 08/30 16:00
44F：→ bndan : 一样 你要突破架构限制 创造出可能性 那只有一个商 08/30 16:01
45F：→ bndan : 业模式能合 就是记忆体贱价或是GPU贱价带动记忆体贱 08/30 16:01
46F：→ bndan : 价 但以目前规模和技术门槛来说 记忆体贱价这条路比 08/30 16:02
47F：→ bndan : 较有机会触发(相对於後者) 08/30 16:02
48F：→ josephpu : 改8hi更多是为了整体记忆体的出货考量，要用总dram 08/30 16:34
49F：→ josephpu : 跟hbm需求去看，hbm的良率会让总出货量下降，现在 08/30 16:34
50F：→ josephpu : 就是找平衡点，若没有产能问题那当然是12hi 08/30 16:34
51F：→ josephpu : 当然老黄想办法增加cluster数量去堆容量也是种路线 08/30 16:39
52F：→ josephpu : 所以cpo scale up这东西是加速在推进的 08/30 16:39
53F：推 strlen : 这些道理我都懂 但为什麽卡蛙还是不会喷？QQ 08/30 16:57
54F：推 rejecth0 : 留言区看起来都是超越三星高层的评论者，稳了 08/30 17:03
55F：→ pinkowa : 因为台湾卡哇跟这些都没有关系 08/30 17:14
56F：→ pinkowa : 记忆体直接运算的架构 跟一般记忆体就不一样 08/30 17:15
57F：→ pinkowa : 是在IC设计时候连同架构一起就设计好的 不能分拆 08/30 17:15
58F：→ pinkowa : 生产的时候直接由一般晶圆厂生产 根本没经过卡哇 08/30 17:16
59F：→ strlen : 呃 但是不会喷的是美韩卡蛙 哭哭QQ 08/30 17:19
60F：→ pinkowa : 台美韩卡哇早就喷过了 没跟上是自己的问题 08/30 17:22
61F：推 as6633208 : 说认真韩股卡蛙是被故意压价的，我个人感觉像是弹簧 08/30 17:45
62F：→ as6633208 : 啦，现在各家记忆体只给到本益比7我觉得不合理，周 08/30 17:45
63F：→ as6633208 : 期的定义是只能好一阵子，其实有用过AI就知道，AI没 08/30 17:45
64F：→ as6633208 : 有记忆就是笨蛋，聪明的模型在训练上需要记忆，在推 08/30 17:45
65F：→ as6633208 : 理上也需要记忆，目前记忆的工艺技术也随着hbm技术 08/30 17:45
66F：→ as6633208 : 规格越来越高，越来越难被轻易复制，应用面到了未来 08/30 17:45
67F：→ as6633208 : 机器人物理AI，记忆的需求我认为只会更高，现在被压 08/30 17:45
68F：→ as6633208 : 到只有7本益比我反而觉得是好入场点，我估NV30的话 08/30 17:45
69F：→ as6633208 : ，记忆体应该可以给到15左右 08/30 17:45
70F：推 jyhfang : 感谢分享 08/30 17:59
71F：推 verdandy : 美光早就喷了，三月底还在刘德音防线攻防战，现在 08/30 18:03
72F：→ verdandy : 快三倍了 08/30 18:03
73F：推 noahlin : 已知利多就不是利多 六月美光财报财测都那麽好 08/30 18:08
74F：→ noahlin : 很难再有什麽更大的利多了 当然现金流强劲 08/30 18:08
75F：→ noahlin : 也不会跌到哪 比一堆本益比五十一百倍梦想股有撑 08/30 18:08
76F：→ noahlin : 等年底看美光会不会回购 但也是半个已知 08/30 18:08
77F：→ noahlin : 跟nv有点类似 公司赚钱 但都是已知 散户太多 08/30 18:10
78F：嘘 k67745438 : 推 08/30 18:36
79F：推 k67745438 : 抱歉按错了 补推QQ 08/30 18:38
80F：推 phegg : 挖赛 您有9000股 nvda才能达成 22k 太强了 08/30 21:58