作者jacknavarra (阿姆罗)
看板Stock
标题[新闻] GPU泡沫要破了？H100租赁价格崩跌至每小
时间Thu Oct 17 10:09:25 2024
原文标题：
GPU泡沫要破了？H100租赁价格崩跌至每小时2美元 专家：投资者宜分散投资
原文连结：
https://news.cnyes.com/news/id/5743500
发布时间：
钜亨网许家华 综合外电 2024-10-16 11:24
记者署名：
钜亨网许家华
原文内容：
根据红杉资本的最新报告，AI 产业的年产值已超过 6000 亿美元，足以支撑数据中心及
加速 GPU 卡等 AI 基础设施的开支。随着基於 A100 GPU 系列的 GPT-3.5 与 ChatGPT
的推出，AI 竞赛自 2022 年 11 月 30 日以来迅速升温，市场对高效能 GPU 的需求激增
。
然而，基础模型训练的资本支出被广泛认为是 「历史上贬值最快的资产」，而关於 GPU
基础设施支出的评估尚未明确，市场竞争依然激烈。
以 OpenAI 为首的大型模型公司，其训练与推理支出已超过收入。OpenAI 最近在有史以
来最大的风险投资轮中筹集了 66 亿美元，并预计到 2026 年将面临高达 140 亿美元的
亏损。与此同时，辉达的新一代 Blackwell 系列晶片已交付给 OpenAI，并表示未来一年
的产品已售罄，辉达 (NVDA-US) 执行长黄仁勳称这可能是行业历史上最成功的产品之一
。
在 AI 基础设施层面，数十亿美元的投资究竟是促进行业繁荣还是形成泡沫，成为市场热
议的话题。
OneFlow 市场分析师 Eugene Cheah 深入研究了 H100 SXM GPU 的投资回报率（ROI），
指出由於预留计算资源的转售、开放模型的微调以及基础模型公司的减少，市场上的
H100 算力已经供过於求。H100 的租赁价格从去年的每小时 8 美元降至如今的低於 2 美
元，显示出市场的剧烈波动。
Cheah 建议用户在需要时租用算力，而不是进行高额购买。对於按需租赁的 ROI，当租赁
价格在 2.85 美元 / 小时以上时，投资者的内部收益率（IRR）仍可保持在合理范围内。
然而，若价格降至 1.65 美元 / 小时以下，则作为基础设施提供商的亏损风险将大幅上
升。
在长期租赁方面，许多基础设施提供商曾在高峰期以每小时 4 美元的价格签订合同，如
今却面临市场价格的急剧下跌。随着开放权重模型的兴起，企业逐渐转向微调现有模型而
非从零开始训练，这一转变进一步减少了对 H100 的需求。
当前 H100 的价值链清晰可见，从硬体供应商到数据中心基础设施提供商，再到风险投资
基金和算力转售商，各个环节相互交织，形成了复杂的市场生态。市场的变化引发了对未
来 AI 基础设施投资的深思，Cheah 警告称，当前的 H100 硬体支出可能会导致亏损，投
资者应考虑将资金分散到其他领域或股票市场，以获取更好的回报。
当前 GPU 市场的剧烈波动预示着 AI 基础设施投资的复杂性，投资者需谨慎评估风险与
机会，以应对未来可能出现的市场挑战。随着市场趋势的变化，如何在这个充满不确定性
的环境中做出明智的投资决策，将成为未来的重要课题。
归纳 H100 租赁价格大跌 (降至 2 美元 / 小时) 之主要因素：
1. 供需失衡：
随着 AI 技术的快速发展，对高效能 GPU 的需求在 2022 年和 2023 年达到高峰，尤其
是在大型模型的训练和推理上。然而，随着市场逐渐饱和，供应商开始面临供过於求的情
况，导致价格下滑。
2. 竞争加剧：
市场上有越来越多的公司进入 GPU 租赁市场，尤其是一些小型和中型企业，它们提供更
具竞争力的价格和服务，进一步压低了租赁价格。
开放模型的兴起：
开放权重模型的出现使得企业能够使用现有的模型进行微调，而不必从头开始训练，这降
低了对新硬体的需求，进一步影响了 H100 的租赁需求。
投资回报率下降：
H100 SXM GPU 的投资回报率（ROI）受到市场价格波动的影响，当租赁价格降至某一水平
以下，投资者将无法获得合理的回报，进而选择减少租赁或购买。
3. 技术更新与替代品：
随着辉达推出新一代的 Blackwell 系列晶片，市场对 H100 的需求可能会受到影响，因
为新技术可能提供更好的性能和成本效益。
4. 经济环境影响：
全球经济环境的不确定性，包括通货膨胀和利率上升，导致企业在资本支出上更加谨慎，
从而减少了对高价 GPU 的需求。
这些因素共同推动 H100 租赁价格从去年的每小时 8 美元骤降至如今的 2 美元，显示出
市场的剧烈波动与不稳定性。
心得/评论：
※必需填写满30正体中文字，无意义者板规处分
昨天这篇新闻包含自由财经也引述报导了, 但看板上还没出现这篇新闻
透过租赁市场的供需看待GPU算力是否过剩蛮有意思的
其中分析的第三点, 因为新一代 Blackwell 系列晶片开始投入市场
所以是导致H100的租赁价格下跌到 2 美元/小时 的主要原因吗?!
抑或是真的市场算力过剩了???
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 125.227.145.14 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1729130967.A.762.html
1F：推 h75221 : 来喽 鬼故事吗 10/17 10:10
2F：→ Heyer : 大家都自己买 谁还要租 10/17 10:11
3F：嘘 junior020486: 笑死，又要骗票 10/17 10:11
4F：推 olaerc23564 : 好 各单位集中火力 10/17 10:11
5F：→ ter2788 : 中国那边早就杀了 也没绷阿 10/17 10:11
6F：推 goodevening : 不是很正常？？现在就没杀手级运用阿 科技巨头都是 10/17 10:11
7F：→ goodevening : 怕FOMO 等未来吧 10/17 10:11
8F：推 etset : 不是早就讲了 买越多省越多 10/17 10:11
9F：→ etset : 算力要贬值几万倍 AI才会普及 10/17 10:12
10F：推 Adrian : 等到可人人自产a片再来烦恼算力过剩 10/17 10:14
11F：→ gprs910 : 好 你害怕 我先买 10/17 10:14
12F：推 onekoni : 鬼故事来罗 又要骗散户廖廖的地方 10/17 10:15
13F：推 a069275235 : 真的假的啦= = 跟高档网咖差不多钱@@ 10/17 10:15
14F：→ knives : GB200都要出来了，谁还要用旧的 10/17 10:15
15F：→ onekoni : NV回90记得欧印 10/17 10:15
16F：→ moom50302 : 这种都是直接买来长期投资AI领域的，谁在租…… 10/17 10:16
17F：推 tmdl : 大陆一堆 10/17 10:16
18F：→ ahwung : 如果租很便宜，那也是一个选择 10/17 10:17
19F：推 QooSnow : 「鸡蛋架！」「一级棒！」 10/17 10:18
20F：→ tctv2002 : 可以租GB200 干嘛还要租H100？ 10/17 10:18
21F：推 hn022 : 旧的没人想要 10/17 10:18
22F：推 EvilJustice : 完了QQ 10/17 10:18
23F：推 spa41260 : 电子产品就是这样，旧的很快被淘汰，新的又越卖越 10/17 10:19
24F：→ spa41260 : 便宜 10/17 10:19
25F：嘘 stationary : overbooking 2.0 10/17 10:19
26F：推 SSglamr : 丸子 10/17 10:19
27F：→ piece1 : 没人要剩下的..... 10/17 10:20
28F：推 AndyMAX : Overbooking！AI is over！ 10/17 10:20
29F：推 strlen : 算力过剩XD好喔 10/17 10:21
30F：推 slothman : 网咖都没这麽便宜 10/17 10:21
31F：→ ActionII : 为啥不租？巨头自用租人两相宜啊 10/17 10:22
32F：推 as920909 : 军备竞赛怕的不是赔钱吧 10/17 10:22
33F：推 Lhmstu : 旧了 10/17 10:23
34F：→ Lowpapa : 干 这真的超级鬼故事 10/17 10:23
35F：推 spa41260 : 2022上演过一次了，显卡库存过剩 10/17 10:23
36F：推 baddaddy : 跟3c一样，旧款跌价很快 10/17 10:24
37F：推 TameFoxx : H200都出了 H100当然降价 10/17 10:24
38F：推 pponywong : 说个笑话 最早的电脑ENIAC 造价数百万美元 10/17 10:24
39F：→ pponywong : 现在买PC 台币3万 PC市场要崩了 10/17 10:24
40F：→ TameFoxx : 而且这种租法不会让你一次只租几小时 10/17 10:24
41F：→ TameFoxx : 新品出来买一百万 出租可能2年就会本 10/17 10:25
42F：推 y800122155 : 这叫算力通膨 NV每年2倍2倍的提高新产品算力 你旧产 10/17 10:26
43F：→ y800122155 : 品当然只会一直崩 但如果不想被超车 每年都要买GPU 10/17 10:26
45F：→ tomdavis : GB200都要出来了 H100运算效率被屌打 10/17 10:29
46F：推 josephpu : 老黄越出越强，有的选谁要租h100... 10/17 10:29
47F：→ y800122155 : NV目标是十年提升一百万倍算力 等於旧产品用两年就 10/17 10:30
48F：→ y800122155 : 会变成占空间的垃圾 10/17 10:30
49F：推 jc761128 : 不便宜 怎麽普及? 10/17 10:31
50F：→ jacknavarra : 如果产品两年後变成垃圾, 那用租的比较划算吧?! 10/17 10:32
51F：推 Lhmstu : 但是其实很多小型的AI应用很需要这种相对便宜且够 10/17 10:32
52F：→ Lhmstu : 用的算力 10/17 10:32
53F：→ jc761128 : 手机一只百万 谁能接你电话XD 10/17 10:32
54F：推 breathair : 这…这不就是NV不败的原理吗？算力一 10/17 10:32
55F：→ breathair : 直提升，算力成本一直下降。拿债券比喻 10/17 10:32
56F：→ breathair : 旧债券发5%利息，新债券发10%，旧债 10/17 10:32
57F：→ breathair : 券净值不是就贬到烂了，还有电费的问题 10/17 10:32
58F：→ breathair : 简直没人要了 10/17 10:32
59F：→ Aerogel : 诈团应该会低价扫货吧！ 10/17 10:33
60F：推 gamixxxx : Overbooking 10/17 10:34
61F：推 h0103661 : 对高端是垃圾，不代表其他人不用啊，降价就是为了 10/17 10:34
62F：→ h0103661 : 吸引低价市场。 10/17 10:34
63F：推 julian42 : gb2000明明还没出 你有看到iphone16还没出15先降吗 10/17 10:38
64F：推 breathair : 不管用租的，还是买的，量大便宜，最新 10/17 10:39
65F：推 Lowpapa : 真的一堆人在壮胆 10/17 10:39
66F：→ breathair : 的最便宜，所以旧的，贵的，一定重贬 10/17 10:39
67F：→ breathair : 新的，便宜的，一定抢破头，道理就是这 10/17 10:39
68F：→ breathair : 麽个道理 10/17 10:39
69F：推 Heedictator : 显卡不就这样 10/17 10:40
70F：推 junior020486: 还没出本来就会降，16要出之前，通讯行都降烂了 10/17 10:40
71F：推 spa41260 : nv没有不败，之前就是这样差点完蛋，幸好有好几次 10/17 10:40
72F：→ spa41260 : 运气好被救活 10/17 10:40
73F：推 y800122155 : 我指的垃圾是以 算力/单位价格 来看，不管高低端需 10/17 10:40
74F：→ y800122155 : 求，越新的产品CP值也是每年2倍2倍在提高，就算低端 10/17 10:40
75F：→ y800122155 : 需求，谁不想用CP值高的？ 这就老黄说的买越多省越 10/17 10:40
76F：→ y800122155 : 多，你一直用旧产品，就是越用越盘罢了 10/17 10:40
77F：推 haworz : 干你妈的显卡要降价这句话从疫情前就一直讲到现在 10/17 10:41
78F：→ haworz : 老黄还是加价卖啊 10/17 10:41
79F：推 shorty5566 : 前几个礼拜才在喊崩 现在涨上来又喊崩 被打脸不腻吗 10/17 10:41
80F：→ breathair : 你把算力换算成赚钱的能力，或是技术力 10/17 10:42
81F：→ breathair : 越新的越强，单位成本越便宜，你有什麽 10/17 10:42
82F：→ breathair : 道理要用旧的？旧的崩越快，代表新的 10/17 10:42
83F：→ breathair : 越强，这千万不能解读错了 10/17 10:42
84F：→ haworz : 以前是先买先享受，後买享折扣，现在是越晚买越贵 10/17 10:42
85F：→ haworz : 。 10/17 10:42
86F：推 spa41260 : 之前一段时间靠比特币挖矿苟延残喘，2022库存过剩 10/17 10:43
87F：→ spa41260 : 时也快完蛋，幸好後来有ChapGpt把它救活 10/17 10:43
88F：→ GN02209611 : 看晚上华西街杀不杀才能知道他们对AI的新态度 10/17 10:43
89F：→ jacknavarra : 以租赁取代购买会不会更划算??? 10/17 10:44
90F：嘘 maplefff : 大哥现在都H200, 要换代B200了 10/17 10:44
91F：→ maplefff : 你这样跟用iPhone 13价格说iPhone 16 10/17 10:44
92F：→ maplefff : 滞销有什麽不一样 10/17 10:44
93F：→ shorty5566 : 只要算力有需求NV就不可能完蛋 10/17 10:45
94F：→ shorty5566 : NV酸很急 大概因为没买到NV 10/17 10:45
95F：推 OhtaniHR : over booking2.0 10/17 10:46
96F：嘘 inoce : 纬创崩 10/17 10:47
97F：推 clecer : 一堆需求只需要推论而已，LLM才需要用最新最强大晶 10/17 10:47
98F：→ clecer : 片做训练，看来GPU崩盘时间快了 10/17 10:47
99F：嘘 Blastodern : 是不是想骗散户赚钱的地方？ 10/17 10:47
100F：推 Brioni : Overbooking 最快也要明年下半年，还有得炒 10/17 10:48
101F：推 y800122155 : 推论也是看CP值啊，最新产品不管训练推论都是CP值最 10/17 10:50
102F：→ y800122155 : 高的，除非你旧产品可以每年跌超过1/2 10/17 10:50
103F：→ shorty5566 : 没错 要崩了 你是股神 10/17 10:51
104F：→ xeins : 讯号来了 in 10/17 10:51
105F：推 happylinadog: 新的出了谁要租旧的 10/17 10:53
106F：→ LDPC : =_=.....算力永远不嫌多啊 都讲了n次了 10/17 10:54
107F：推 HisVol : 终端需求不够，没商机，算力不就过剩了，难道赚不到 10/17 10:56
108F：→ HisVol : 钱也要为了算而算？ 10/17 10:56
109F：嘘 GivemeApen : 废话 有新的谁要用旧的 87新闻 10/17 10:56
110F：推 CADDEE : 真假 算力过剩了吗 10/17 10:57
111F：→ LDPC : 终端需求也有企业需求 去看资料中心那些资料就知道 10/17 10:58
112F：→ LDPC : 你这论点就跟回到1990说记忆体10M就够用 cpu也是 10/17 10:58
113F：→ mntonmylife : 每小时8美元也太贵,租车都比较便宜 10/17 10:58
114F：→ LDPC : 亚麻现在所有消费资料都已经用genAI+RAG去做了 10/17 10:59
115F：推 breathair : 算力过剩了啊，iPhone 9没人要了，垃圾 10/17 10:59
116F：→ LDPC : 你们消费者 大概也不知道後面搜寻机制已经变了 10/17 10:59
117F：→ lmc66 : 别怕 至少我们还有梦 10/17 10:59
118F：推 sussj : 完了，要泡沫了，快逃啊 10/17 11:00
119F：→ LDPC : 狗家现在所有下游服务客户全部都换成gemini 10/17 11:00
120F：→ LDPC : 你大概也不知道你用的服务已经用更高阶genAI 10/17 11:00
121F：推 andy76222 : 就像新一代手机出来，上一代降价不是很正常？这样 10/17 11:01
122F：→ andy76222 : 就泡沫？ 10/17 11:01
123F：推 sdbb : 99GOOG 10/17 11:01
124F：推 gk1329 : 你我500 10/17 11:03
125F：→ thg156yu789 : 很正常吧 不就跟网速一样 价格越来越便宜 10/17 11:04
126F：推 Melomomo : AI又要over了… 10/17 11:04
127F：推 imba789 : 买旧产品的变成冤大头 10/17 11:05
128F：→ jacknavarra : 可以用租的 就不会变冤大头了 10/17 11:06
129F：推 xx890197 : 真正的供不应求应该是跟2017年挖矿市场一样，连二 10/17 11:07
130F：→ xx890197 : 手显卡都在加价卖，现在去年算力贬值成这样，还这 10/17 11:07
131F：→ xx890197 : 麽供不应求吗？ 10/17 11:07
132F：推 DevenW : AI的问题是，当一个够好用的AI被训练出来，还需要 10/17 11:08
133F：→ DevenW : 一堆人提供服务吗 10/17 11:08
134F：推 Samurai : AI正在极速发展，搞不清楚状况的人还很多，现在万 10/17 11:10
135F：→ Samurai : 事具备只等LLM成熟，终端消费市场就会爆发 10/17 11:10
136F：推 amorose77 : 然後七巨头还是拼命买 10/17 11:14
137F：推 iWatch2 : 这家还真多割韭骗票新闻 推个 10/17 11:16
138F：推 y800122155 : 现在没有疯抢H100 那是因为GG CoWoS先替你疯狂增产 10/17 11:27
139F：→ y800122155 : 了啊 10/17 11:27
140F：推 ten9di9 : 都用买的，谁要租 10/17 11:31
141F：嘘 s1612316 : 没有终端消费需求 旧的直接变垃圾 泡泡真的要来了 10/17 11:34
142F：→ s1612316 : 手机有人会用旧的 AI竞赛有人用旧的?XD 10/17 11:35
143F：→ amaqua : 晶片版的蒜粒过剩... 10/17 11:44
144F：→ Zexion : 骗票 10/17 11:45
145F：→ LightWorker : AI 要泡沫化了 10/17 11:57
146F：推 chysh : 反正H100终究停产，现在只是在压榨残值，而且因为对 10/17 12:01
147F：→ chysh : 中国的晶片禁令，中国没门路拿到晶片的厂就只能租算 10/17 12:01
148F：→ chysh : 力 10/17 12:01
149F：推 notime : 丸子 10/17 12:05
150F：推 Latte7 : 还蛮好笑的推论 10/17 12:07
151F：推 Litfal : 2镁小时好像不贵欸，用一张25k镁来算可以跑520天还 10/17 12:21
152F：→ Litfal : 不用电费欸 10/17 12:21
153F：推 mc2834 : 是机房效率的问题好吗？跟算力过剩无关… 10/17 12:23
154F：推 shinnim : 87新iPhone 出来旧的不会降价吗== 10/17 12:32
155F：推 aaaaaaaa9 : iPhone 4价值崩盘，原本3万多台币，如今1000元都没 10/17 12:37
156F：→ aaaaaaaa9 : 人买，苹果信仰不再？ 10/17 12:37
157F：推 brad001 : 想骗我股票 门都没有 10/17 12:48
158F：推 prtscscroll : 每季都能炒一次的话题 等你砍掉股票後 AI投资无法变 10/17 12:54
159F：→ prtscscroll : 现又不是问题了 10/17 12:54
160F：推 stlinman : 早些用H100的早就回本了吧! 以後卖掉还有残值，赚烂 10/17 12:56
161F：→ stlinman : 了吧! 难怪老黄敢说买越多省越多。 10/17 12:56
162F：推 oxlittle : 大公司不会把资料拿去云端算吧 10/17 13:06
163F：推 steven1220 : 难怪弘毅股跌的跟屎一样 10/17 13:12
164F：推 alphish : 鬼故事一职来 到底法说之後会喷到哪里去~期待 10/17 13:23
165F：推 breathair : 噗，法説结束，这串就闭嘴了 10/17 14:49
166F：推 shawncarter : 吃货文啦 10/17 14:49
167F：推 aresa : 去年8元一小时，241天就回本了，你跟我说赔钱 10/17 15:17
168F：推 linfon00 : 每个礼拜崩一次 10/17 16:42