作者anti87 (鬼岛观察家)
看板Stock
标题[新闻] AI晶片如何让美国电网瘫痪？微软工程师：
时间Sat Mar 30 10:13:03 2024
原文标题：
AI晶片如何让美国电网瘫痪？微软工程师：只要10万片就完了
原文连结：
https://www.ctee.com.tw/news/20240329701360-430704
发布时间：
2024.03.29 16:25 中时新闻网
记者署名：
吴美观
原文内容：
全球掀起人工智慧（AI）热潮，也让AI进化成吃电巨兽！一位微软工程师爆料，如果在美
国同一个州部署超过10万片H100 GPU高阶晶片，就会导致电网瘫痪。显见AI运算速度愈快
，电力供应需求暴增将成为令人担忧的问题。
财联社报导，人工智慧聊天机器人ChatGPT开发者OpenAI下个版本GPT-5模型尚未面世，似
乎已开始着手训练GPT-6，不过电力可能成爲一个「卡脖子」难题。
AI新创公司OpenPipe创办人Kyle Corbitt在社群平台X上透露，自己最近与一位负责GPT-6
训练集群项目的微软工程师讨论新版本中遇到的问题，这位工程师抱怨，不同区域GPU之
间部署infiniband（无线频寛）级别链接，实在非常痛苦。
Corbitt接着问「为何不将训练集群集中同一个区域？」这位微软工程师回答，有尝试过
，但是如果在一个州放置超过10万片H100 GPU，电网就会瘫痪。
10万片H100是什麽概念？据市场调查机构Factorial Funds的报告显示，OpenAI的文字生
成影片模型Sora在高峰期间需要72万片H100，依该工程师说法，这个数量足以让美国7个
州的电网崩溃。
Corbitt指出，随着越强大的AI制造出来，开发这些模型的成本也越来越高，并面临电力
供应所带来环境挑战。
OpenAI 执行长奥特曼（Sam Altman）曾为AI的电力需求「叫苦」。在年初的达沃斯论坛
上，他表示，AI发展需要能源方面的突破，AI将带来远超预期的电力需求。
有数据显示，ChatGPT每天需要消耗超过50万千瓦时的电力，用於处理约2亿个用户请求，
相当於美国家庭日用电量的1.7万多倍；至於搜寻巨头谷歌，若在每次用户搜寻中都调用
AIGC，年耗电量将增至290亿千瓦时，这甚至高於肯亚、瓜地马拉等国1年的用电量。
心得/评论：
随着AI运算速度愈快，电力供应需求也将暴增，将成为令人担忧的问题
还好咱们台湾电网坚韧无比，不缺电，不停电，不是美国那种落後国家能比的
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.137.161.32 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1711764788.A.3BE.html
1F：推 FGK : 心得 笑死 也只能自娱娱人了我们 03/30 10:14
2F：→ boards : 中时新闻网 03/30 10:14
3F：→ boards : 「卡脖子」是什麽语？ 03/30 10:15
4F：推 suntw : 台湾不适合核能，但AI真的吃电非常 03/30 10:15
5F：→ meowyih : 说真的，这种摆明不是想讨论股票的文就别发了，有很 03/30 10:15
6F：→ meowyih : 多其他适合的板 03/30 10:15
7F：嘘 suntw : 刚才跳过心得没看，补嘘没意义的酸文心得 03/30 10:18
8F：推 patrol : 有股点阿，就是在ai 这条路上，台湾终究会被外抛， 03/30 10:19
9F：→ patrol : 要ai就投美股 03/30 10:19
10F：推 peter080808 : 台湾不适合核能个屁 03/30 10:19
11F：→ peter080808 : 台湾要零排放又要跟上AI时代 是打算把中央山脉砍光 03/30 10:20
12F：→ peter080808 : 插光电板？ 03/30 10:20
13F：推 a9a9a8a1 : 纯嘘上面反核仔 03/30 10:21
14F：推 dosiris : 找老黄呼吁核电 政府应该会买单 03/30 10:21
15F：→ peter080808 : 微软+AI+电网 没股点？ 这话有经过自己良心吗？ 03/30 10:21
16F：→ qa1122z : 高速快速公路插太阳能板有搞头？ 03/30 10:22
17F：→ qa1122z : 白天遮阳发电储能，晚上照明 03/30 10:23
18F：推 porkonrice : 把公园通通插满太阳能板就有电了 03/30 10:24
19F：推 patrol : 地震台风就会满地的太阳能板瘫痪交通 03/30 10:24
20F：推 FatFatQQ : 迟早用核电哈哈 03/30 10:25
21F：→ qa1122z : 捷运轨道上方盖满太阳能板有搞头？ 03/30 10:26
22F：嘘 sss700304 : 台湾：40%用爱发电 03/30 10:27
23F：→ bnn : 简单来说就是台湾只会有硬体业 AI软体相关都是假的 03/30 10:27
24F：推 peter080808 : H100伺服器耗电量就要10kW了 10万台需要100万KW 自 03/30 10:27
25F：→ peter080808 : 己算要多少光电板吧 03/30 10:27
26F：→ peter080808 : 硬体业不耗电吗 生产AI晶片EUV制程电力需求多恐怖 03/30 10:29
27F：→ LDPC : 人类电池!!!!各位 用脂肪发电时代来临了!! 03/30 10:29
28F：推 kinki999 : 爱台湾股民是又看不惯电力污名化了 03/30 10:32
29F：嘘 catboost : 栅栏坏了 03/30 10:34
30F：推 pisu : 1度电=1kWh 03/30 10:34
31F：→ Alwen : 以後会很耗电 我建议用人类来发电 03/30 10:34
32F：→ dosiris : 靠光电板？所以阴雨天伺服器就停工吗 XD 03/30 10:41
33F：→ qa1122z : 是不是当储能是塑胶的（误 03/30 10:43
34F：→ bulabowu : 如果是科幻小说会研发出在太阳旁边吸取能源的训练站 03/30 10:44
35F：推 kunyi : 跟挖矿一样浪费电 03/30 10:48
36F：推 asaman99 : 原来打败天网只要攻击电网就好了 03/30 10:51
37F：→ TaiwanUp : 天网真的形成你根本攻击不完电网 起码是分散式的 03/30 10:53
38F：推 ksjr : 没关系 AI不适合台湾 不需要担心电力问题 03/30 10:53
39F：→ TaiwanUp : 电网可以24/7无限制生成 看卡尔达萧夫文明等级到哪 03/30 10:56
40F：→ boards : AI的主要应用在美国 03/30 10:56
41F：→ boards : 台湾只是代工AI晶片 03/30 10:56
42F：推 onstar : 不用帮美国担心没电好吗！？ 03/30 10:59
43F：推 Chilloutt : 抽脂发电 03/30 10:59
44F：嘘 mike0608 : 这种心得发在股板…有点扯 03/30 11:03
45F：→ NexusPrime : 就跟之前疯疯算eth类似，也是狂用GPU 03/30 11:04
46F：嘘 CORYCHAN : 是说这是谁 03/30 11:06
47F：推 Ligamenta : 核电厂旁放AI 03/30 11:09
48F：嘘 zxcvb1234522: 高算力=高耗电≠获利 03/30 11:11
49F：推 mqhung : 徵求工读生踩脚踏车发电给AI用 03/30 11:11
50F：→ bakayalo : 先进制程+先进封装的重要性越来越高了 03/30 11:14
51F：→ TomChu : 台湾有很多的电 不怕 03/30 11:15
52F：推 yoshilin : matrix有教过电力来源 03/30 11:20
53F：→ LDPC : matrix明明就是纪录片 只是穿越到了现代QQ 03/30 11:21
54F：→ minhsiensung: 不管怎麽改 所有电力节点都要变压器啊 华城表示： 03/30 11:25
55F：推 siki588 : 核融合MIT 03/30 11:36
56F：→ tomdavis : 美国电力概念股会变股王吗XDDDDDDDDDDDDDDDDDDDDD 03/30 11:38
57F：推 create8 : 结论：人类=电池 03/30 11:39
58F：推 cosmite : 台湾不适合核能个屁 03/30 11:42
59F：推 aken59420 : 台湾不要用AI就好了，负责生产设备 03/30 11:42
60F：推 oneIneed : 说台湾不适合核能的应该是低能 03/30 11:48
61F：→ oneIneed : 低能发电 用爱发电 03/30 11:49
62F：推 stupidboyu : 真是笑话 这种有股点的新闻还不能放 乾脆规定只准 03/30 11:53
63F：→ stupidboyu : 放三民自跟大妓院的好了 03/30 11:53
64F：→ JOKO58802218: 惨爆 03/30 11:55
65F：推 peter080808 : 哈哈 民视和三立也开始有美日重启核电的新闻了 03/30 11:58
66F：推 raygod : 太耗电了台湾不需要 03/30 12:01
67F：→ FatFatQQ : 能发展算力就美中沙 其他都不可能 光盖一堆核电厂 03/30 12:03
68F：→ FatFatQQ : 地狭人稠就无法 03/30 12:03
69F：嘘 maplefff : 听起来根本没问题啊，才几万户家庭用电而已 03/30 12:04
70F：推 peter080808 : 日本： 啊我国土是很大吗？ 要重启全球最大核电厂 03/30 12:04
71F：→ peter080808 : 了喔 03/30 12:04
72F：→ maplefff : 美国家庭至少也有8000万户，给你耗电2万户有什麽 03/30 12:06
73F：→ maplefff : 白痴新闻 03/30 12:06
74F：推 peter080808 : 楼上是不是因为电厂到你家中间没电网？ 电网其中一 03/30 12:09
75F：→ peter080808 : 点瞬间少掉2万的家庭用电 需要多少电力去稳电流？ 03/30 12:09
76F：推 edison51501 : 还好台湾都是用爱发电 不怕 03/30 12:15
77F：→ yesyesok : 台湾电多到可以藏起来，没事没事 03/30 12:17
78F：推 nocash : 台湾有爱 03/30 12:25
79F：嘘 wurick000 : 建议土条赶快提出将龙门废墟 改成fusion 试验场的可 03/30 12:31
80F：→ wurick000 : 行性计画 不然有可能光内科皆有可能榨乾整个台北市 03/30 12:31
81F：→ wurick000 : 的电网？？？ 03/30 12:31
82F：推 sheepxo : 是无限频宽 不是无线 03/30 12:49
83F：推 ab4daa : 美国怎麽跟得上台湾 03/30 12:54
84F：→ eternal0327 : 那台湾怎麽发展 03/30 13:02
85F：→ eternal0327 : 台湾算力准备落後了吗 03/30 13:02
86F：→ Brioni : 很明显AI发展会进入一个算力瓶颈，而这个瓶颈就是电 03/30 13:08
87F：→ Brioni : 力供应 03/30 13:08
88F：推 northwater : 卡阴囊 03/30 13:11
89F：推 jackas103 : 日本国土确实大啊，一个九州就跟台湾面积相近了 03/30 13:32
90F：推 darktasi : 又是浪费钱跟电的玩意 03/30 13:45
91F：推 AirLee : 这就是现在半导体的瓶颈，所以才有人开始研究量子 03/30 13:48
92F：→ AirLee : 电脑想取代目前的大型训练系统，但是变超导体应该 03/30 13:48
93F：→ AirLee : 也是很耗能。 03/30 13:48
94F：→ jasonkey123 : 还谈什麽节能减碳....暖化议题呢? 03/30 13:48
95F：→ ulamong : 有些人总喜欢将绿能与基载混在一起谈 03/30 14:18
96F：→ ProTrader : 电力消耗就是小模型跟自制AI晶片会有市场的重要考量 03/30 14:23
97F：推 centiyan : 宏碁：这里有一批神秘小盒子很便宜的 快来买喔 03/30 14:24
98F：推 YCL13 : 是自己公司没有建立可以推10万片H100 GPU的电力系统 03/30 15:23
99F：→ YCL13 : ，光想要推这麽多H100的不断电系统就觉得惊人 03/30 15:24
100F：推 kkchen : 怎不开发超导体ai晶片啊？这样不就完全不用消耗电 03/30 15:36
101F：→ kkchen : 力了。 03/30 15:36
102F：推 vuncent : 台湾最需要的就是核能！ 03/30 16:11
103F：推 a8017700 : 核能治百病 电不够就核能就对了 03/30 17:17
104F：嘘 stoke4096 : 外抛什麽台湾的半导体业就是ai软体的，87 03/30 18:33
105F：→ Iloveriona : 核融合也要靠AI有突破了 03/30 19:06
106F：推 balafind : 主机+太阳能板上太空有没有搞头？ 03/30 19:26
107F：推 kanehhh : 老黄会推下一代功耗降低30%吧 03/30 21:59
108F：推 hui2708 : 把台湾的路全部挖掉重铺「发电公路」大家说好不好 03/30 22:56
109F：→ hui2708 : 啊 03/30 22:56
110F：嘘 quartics : 因AI失业的人改行当人力电池吧 03/31 11:31
111F：嘘 samhsu : 这心得只会让某粉看起来越来越惹人厌 04/01 20:22