作者LDPC (Channel Coding)
看板Stock
标题[心得] GPU vs ASIC
时间Sun Feb 9 05:41:21 2025
苏妈在最近一次采访给了ASIC跟GPU大战的注解
https://www.theregister.com/2025/02/05/amd_q4_fy2024/
她注解
Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs any
time soon.
"My belief is, given how much change there is still going on in AI
algorithms, that ASICs will still be the smaller part of that TAM
(旁注解: AI算法变化快 所以这意味者ASIC会很难适应算法迭代 除此之外
个人体验 在LLM起来前 其他许多领域 也是一个需要大算力市场 比方render 电影studio
等影音大厂要花大笔钱打造render farm使用NV晶片 又或者脸书的广告推送预测等服务
所以通运算力有一定基本需求)
顺便附上三星自己做了一个HBM使用的数量估计
https://i.imgur.com/NzuspuW.jpeg
我2025自己投资就是照上面HBM使用数量大概去分配买 (加个注解好了@@)
你如果觉得NV有未来 你最好的加码点就是这波关税大战 因为关税跟基本面相关性小
我个人预测是DeepSeek 会加速其他国家和中小型玩家入场机会 比方
https://reurl.cc/V0vzWy
而HBM上面也支撑我重注万润策略 (@@ 强烈不建议跟单 因为这部分韭菜率很高)
然後我之前删文 但里面有一个重点 就是inference端的速度(token/second)
和能满足多少用户请求(queries) 支援 是AI落地场景衡量指标 再玩deepseek之後
你可以尝试去把这些考虑带入 这样帮助你对算力需求之後的发展预测 (注1)
当然ASIC还是给华尔街许多想像空间
(参照 图解科技巨头如何在AI领域增加「重注」 一文)
总结 2025 个人投资方向就是找下方图表的金钱流动位置 @@/
https://reurl.cc/ZZ5elW
--
注1
一般来说 大部分落地场景最最最低速度要求大约是25~30 token/second 再玩on-device端
可以体验壹下这速度感
注2
为对冲关税影响 部分钱买入黄金 希望有买黄金的多多抛出想法能帮韭菜我校正 @@/
注解:多少分配avgo/nvda看个人 @@ 有一说华尔街2025会想炒avgo
可以搭配HBM发展趋势 作为算力第二建仓分散用途打算
https://finance.sina.com.cn/jjxw/2024-12-17/doc-inczttzt5006945.shtml
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 76.21.72.78 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1739050885.A.0C8.html
1F：推 xupmc : 亚马逊很认真在投入AI AWS感觉功能不是DS可以比的 02/09 05:50
2F：推 RichardLee88: 推 优质分析 感谢L大 02/09 05:52
3F：推 onekoni : 专业推 02/09 06:02
4F：推 y800122155 : 为什麽你是照用量去买? 而不是照成长力高低去配比? 02/09 06:05
5F：推 guanting886 : 用在ASIC上就是我想把某段服务的成本打下来 不会少 02/09 06:18
6F：→ guanting886 : 02/09 06:18
7F：→ guanting886 : 这就很适合在AWS上 而且不限於你现在看到的LLM 02/09 06:20
8F：→ guanting886 : 不可能只会有LLM要发展 就光周围的人机介面都还是 02/09 06:23
9F：→ guanting886 : 要处理 02/09 06:23
10F：推 guanting886 : 听 (你需要speech recognition） 02/09 06:29
11F：→ guanting886 : 看/读 (你需要 computer vision) 02/09 06:29
12F：→ guanting886 : 说 (你需要 tts = text-to-speech ) 02/09 06:30
13F：→ guanting886 : 想 (就你目前看到的模型 但这个可能未来还会有更厉 02/09 06:30
14F：→ guanting886 : 害的人或团队将目前的设计改良突破 02/09 06:30
15F：推 sonnyc : 救救苏妈妈 02/09 06:33
16F：推 ksjr : 不晓得UAE会不会也被川川禁? 02/09 06:39
17F：推 HenryLin123 : AVGO算变化量应该大於NVDA 02/09 07:10
18F：推 Mingleez : 万润跟hbm什麽关系 02/09 07:25
19F：推 imlucky : 世芯ky最近好猛 争夺股王位置 02/09 07:26
20F：推 pisciss : 死妈的花能听，股价不会剩100初头 02/09 08:02
21F：推 pc007ya : GUC HBM buy and forget 02/09 08:10
22F：推 spike1215 : 呜啊，我美光还套在102 02/09 08:17
23F：→ fgkor123 : NPU勒? 02/09 08:33
24F：推 ymlin0331 : alchip紧抱亚麻大腿XD 02/09 08:43
25F：→ ymlin0331 : asic的需求直接来自CSP大厂，怎麽输？ 02/09 08:43
26F：推 B10314058 : 99AMD 02/09 08:47
27F：→ MacD89 : 买台积电是不是就不用管asic还是gpu会胜出了？ 02/09 08:57
28F：推 y800122155 : 没看到那个表 GPU ASIC的需求量动不动就是翻两倍三 02/09 09:02
29F：→ y800122155 : 倍? GG的成长率大概20%上下 不在乎绩效被屌打 只想 02/09 09:02
30F：→ y800122155 : 稳赚略赢大盘报酬的话可以不管 02/09 09:02
31F：推 tsukuyomii : 现在市场上不管是资金还是讨论 都是ASIC未来成长空 02/09 09:07
32F：→ tsukuyomii : 间更大 遐想空间更大欸 02/09 09:07
33F：推 ImHoluCan : GPU比较智能，AICS要确定欸 02/09 09:09
34F：→ ImHoluCan : 不过股票而且要求稳听定稳赢就GPU，但要爆发就AVG 02/09 09:12
35F：→ ImHoluCan : O像之前与AMDㄧ样 02/09 09:12
36F：推 ymlin0331 : 台积闭着眼睛买 02/09 09:12
37F：→ ymlin0331 : 谁知道asic何时会被CSP大厂蛋雕 02/09 09:12
38F：→ ymlin0331 : asic这麽多家，掉单很正常的 02/09 09:13
39F：推 fernmmm : 推 02/09 09:14
40F：推 deathoflove : 不知在哪看到asic 开发周期也要2年 02/09 09:14
41F：推 pucca068 : 两个不冲突的东西拿来比？ 02/09 09:20
42F：推 linbryan : marketwatch警告历史黄金价格跟关税成反比.但记住专 02/09 09:24
43F：→ linbryan : 家推论正确程度也常跟历史成反比 02/09 09:24
44F：推 fajita : 这两者应用领域不同，拿在一起比就是炒股观点 02/09 09:29
45F：推 addy7533967 : 推推 02/09 09:30
46F：推 jerrychuang : 多头时代，真的不需要买黄金 02/09 09:30
47F：推 A22813079 : 她为了GPU市场当然这样说... 相同地你去问ASIC大佬 02/09 09:44
48F：→ A22813079 : 会跟你讲相反的 02/09 09:44
49F：→ bntimlin : 苏妈去年说PC下半年出货会很好 02/09 09:55
50F：推 spike1215 : 照这样看，抓住HBM也是不用管GPU和ASIC大战了的意 02/09 09:55
51F：→ spike1215 : 思 02/09 09:55
52F：推 etset : ASIC会赢喔 02/09 10:01
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 10:05:42
53F：推 sonyvaio : 99AMD 02/09 10:05
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 10:08:30
54F：嘘 pongp0416 : 总觉得asic这方向怪怪的 但部位获利又一直上升 02/09 10:10
55F：推 metallolly : 没有钱买avgo了啦 02/09 10:11
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 10:14:56
56F：推 jeangodard : 酷 02/09 10:18
57F：推 bunjie : ASIC要量够大才比较划算吧 只有大厂才有本钱搞这个 02/09 10:23
58F：→ bunjie : 中小企业就不用忙这个了 02/09 10:23
59F：推 fmp1234 : ASIC对标FPGA 02/09 10:26
60F：推 HiuAnOP : 我无脑买S&P500而已q_q 02/09 10:28
61F：→ HiuAnOP : AI行情现在太乱了！看不懂R 02/09 10:28
62F：推 hang520 : GG就是全赢 赢麻了 02/09 10:29
63F：→ bobokeke : 联发科压ASIC，是吗 02/09 10:29
64F：推 limulus : 推专业好文。(股点：掺在一起做撒尿牛丸呗？说到底 02/09 10:36
65F：→ limulus : all in台就gg不就好啦？XD) 02/09 10:36
66F：→ imlucky : 世芯无脑多 挑战4000 02/09 10:39
67F：推 rebel : 同意 asic最好是等演算法成熟稳定再大量投资 不然 02/09 10:42
68F：→ rebel : 一改就差不多报废 02/09 10:42
69F：推 TIPPK : 大爷带我赚钱QQ 02/09 10:43
70F：推 zhi5566 : 有想过最近AI股都涨不太起来 NV甚至向下 MSFT软烂一 02/09 10:52
71F：→ zhi5566 : 年了 G社带量下杀 AI可能真的没有各位想得容易赚钱 02/09 10:53
72F：推 s1001326 : 99NVDAAAAAAAAAAAAAAAAAA 02/09 10:54
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 10:57:14
73F：→ herculus6502: 雀食 02/09 10:59
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 11:01:12
74F：推 water6 : 问题不在赚钱，在於不能落後，确实有fomo的味道， 02/09 11:15
75F：→ water6 : 所以一旦短期反转应该也蛮可怕的，但长期向上趋势 02/09 11:15
76F：→ water6 : 不变 02/09 11:15
77F：→ jen1121 : ASIC想像空间比较大 02/09 11:15
78F：推 tomdavis : 怀疑AI不能赚钱 结果是跌AI硬体厂 这个逻辑不对吧XD 02/09 11:17
79F：→ tomdavis : ASIC 则是每横空出世一个新的主流模型 就用来降成本 02/09 11:18
81F：推 CRonaldo07 : 金像电有机会变金项链吗？ 02/09 11:35
82F：推 shorty5566 : 百花齐放的话确实gpgpu 比较有利，而且也只有csp 02/09 12:03
83F：→ shorty5566 : 大厂有能力设计asic 02/09 12:03
84F：→ shorty5566 : 反正Nv avgo alchip 都买不会有错 02/09 12:04
85F：推 clisan : 推专业 02/09 12:22
86F：→ Infinair : 万润跟HBM有什麽关联...？？ 02/09 12:27
87F：推 ab4daa : 99AMD 02/09 12:28
88F：→ MacD89 : goog/amzn/meta都有在玩asic就是不想被老黄掐着脖子 02/09 12:33
89F：→ MacD89 : 反正就追随教主讲的老黄BG 有低点就砸钱抄底 02/09 12:34
90F：推 HarukaLM : 不管怎样都是TSMC赚烂 无脑多 02/09 13:01
91F：推 tomdavis : 怀疑AI不能赚钱会砍资本支出 那应该要放空TSM才对 02/09 13:08
92F：推 stlinman : 推一个，我自己实际体感 20 token/second 以下就有 02/09 13:15
93F：→ stlinman : 顿感，不过单纯聊天不用思考其实20就够了 02/09 13:15
94F：→ VaLenTi1007 : 万润任何反弹都是空点 看看均华 弘塑 辛云 02/09 13:40
!!!@n@ 大大不要这样!!!!!
※ 编辑: LDPC (76.21.72.78 美国), 02/09/2025 13:47:19
96F：→ b9513227 : 特规的东西 市场就是没接受度 02/09 13:47
97F：推 zqzwxec : 去看看Redshift AQUA这个产品最後的下场, 02/09 14:02
98F：→ zqzwxec : Graviton那帮人,呵呵 02/09 14:02
99F：→ zqzwxec : AWS的ASIC注定玩不起来. 02/09 14:04
100F：推 jamesho8743 : ASIC目前在AI方面不会赢原因就是上面说的算法变化 02/09 14:28
101F：→ jamesho8743 : 快 除非特定领域或未来算法固定才有优势 像加密货 02/09 14:28
102F：→ jamesho8743 : 币那样单纯算hash的ASlC才能挥发它的实力 02/09 14:28
103F：推 jamesho8743 : AWS是他自己固定功能使用量大才有ASIC空间 省成本 02/09 14:32
104F：推 ching6940 : NPU才是未来 02/09 14:54
105F：推 josephpu : 我比较好奇NPU 02/09 14:56
106F：→ josephpu : 不过2025 H200真的还能有最大占比吗？感觉很难 02/09 15:03
107F：→ iamsosorry : 但 世芯还在飙耶 02/09 15:43
108F：推 aegis43210 : H200的散热需求比较低，所以反而中小国家比较喜爱 02/09 15:43
109F：推 aegis43210 : 市场是在赌四大CSP会为了摆脱老黄的魔爪而每年花大 02/09 15:47
110F：→ aegis43210 : 钱一直做新的ASIC出来 02/09 15:47
111F：→ aegis43210 : 这样对老黄不利 02/09 15:48
112F：→ josephpu : 但问题是老黄也有推气冷的b200a，以能耗来说不太可 02/09 17:24
113F：→ josephpu : 能再回头用上代的hopper 02/09 17:24
114F：推 ohlong : 贵归贵 捡现成的还是比自己做便宜 02/09 18:11
115F：推 cruisewu2003: 全买单了啦 02/09 18:53
116F：→ stosto : ASIC你把它想成硬体硬解就好了 02/09 20:23
117F：→ stosto : 但以现在模型更新的速度，你asic根本没办法使用 02/09 20:24
118F：→ stosto : 这就是为什麽nv强的原因，gpu可能慢一点但人家就可 02/09 20:24
119F：→ stosto : 以适应不同模型 02/09 20:24
120F：→ stosto : 所以asic….我实在不知道现在要怎麽硬刚nv 02/09 20:25
121F：→ stosto : 然後现在…说真的，ai模型都还在频繁更新中，三奈 02/09 20:27
122F：→ stosto : 米的asic根本在乱烧 02/09 20:27
123F：推 l145678p : 推荐 02/09 22:06
124F：推 richaad : ASIC目前只有巨头用得起，也只有巨头已经确认架构发 02/10 09:49
125F：→ richaad : 展才敢用，中小根本不可能用ASIC，只能直接用cloud 02/10 09:49
126F：→ richaad : ，同时GPU不可能削减，因为你完全无法承担未来架构 02/10 09:49
127F：→ richaad : 如果改变的风险，这也是巨头拼命支出的原因，墙盖愈 02/10 09:49
128F：→ richaad : 高愈难超越 02/10 09:49
129F：→ stosto : 反正现在博通在吹asic, 这颗也是两年前就在试产的 02/10 11:59
130F：→ stosto : 你说要怎麽套到现在的环境？ 02/10 12:00