作者ravager (wait for it)
看板Stock
标题[新闻] 生成式 AI 大爆发，NVIDIA GPU 恐供不应
时间Mon Feb 13 12:04:26 2023
原文标题：生成式 AI 大爆发，NVIDIA GPU 恐供不应求
原文连结：
https://technews.tw/2023/02/13/nvidia-gpu-demand-to-exceed-supply-as-green-team-bets-on-chatgpt/
发布时间：2023.02.13 11：14
记者署名：陈冠荣
原文内容：
微软 Bing 搜寻引擎整合 ChatGPT，加上其他生成式 AI 工具的需求攀升，这些生成式 AI 相当依赖人工智慧处理能力，这正是 NVIDIA GPU 优势所在。当科技公司正在利用 NVIDIA GPU 满足他们不断增长的 AI 需求，市场恐怕面临 GPU 供货短缺的问题，尤其先挤压游戏玩家的需求。
NVIDIA GPU 能够高效运算，支援 AI 模型使用 GPU 进行运算的 CUDA（Compute Unified Device Architecture，统一计算架构），因此广泛应用在深度学习领域。根据 FierceElectronics 网站报导，ChatGPT 初期在 10,000 个 NVIDIA GPU 上进行训练，自从获得大众关注後，系统不堪负荷，无法满足庞大用户需求。为此 OpenAI 推出全新 ChatGPT Plus 订阅服务，不仅能让用户在尖峰时段优先造访 ChatGPT，而且回应时间更短，并能优先使用最新功能。
产业分析师估计，目前 ChatGPT 模型正在大约 25,000 个 NVIDIA GPU 上进行训练，比初期测试使用的 10,000 个 NVIDIA GPU 高出许多。
微软和 Google 双双宣布将类似 ChatGPT 的 LLM（对话式大型语言模型）整合至自家搜寻引擎中。如以 Google 为例，要将这样的 AI 模型整合至搜寻结果中，估计需要 512,820 台 A100 HGX 伺服器以及 4,102,568 个 A100 GPU。光就伺服器和网路成本而言，资本支出预估高达 1,000 亿美元（约台币 3 兆元）左右。
生成式 AI 大爆发对 NVIDIA 来说是个利多消息，但面对消费市场，尤其对游戏玩家而言恐怕不算好消息。NVIDIA 有可能优先供货给提供生成式 AI 的科技公司，排挤游戏玩家的需求。今年第一季因有农历新年使游戏显卡供应受限，尽管库存问题仍然存在，但可能为已经短缺的高阶 GPU 带来供货问题。
高阶 GPU 提供了 AI 功能，使 NVIDIA 有利可图，可能为了满足不断增长的生成式 AI 而有供货短缺的问题。NVIDIA 如何因应 AI 领域的庞大需求有待观察，该公司预计在 2 月 22 日公布 2023 财年第四季财报，届时有望透露更多未来营运展望。
心得/评论：
预估Google支本支出1000亿镁左右，NVDA要喷了否？
从去年底到现在已经涨了45%左右了，显卡又要被抢光了吗？
http://i.imgur.com/JGHnRSJ.jpg
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 223.138.99.16 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1676261072.A.DBA.html
1F：推 egghan : 恐恐恐 02/13 12:05
2F：推 playboy007gy: 显卡再炒一波 太无情了 02/13 12:05
3F：→ xzonisy : 可是其他文内有版友大大推文，NVDA 没有加密货币推 02/13 12:06
4F：→ xzonisy : 力就是对不起他现在这个价位 02/13 12:06
6F：→ laechan : 还是块陶吧 02/13 12:09
7F：→ laechan : 再来高价消费电子是要卖给谁 02/13 12:09
9F：→ zzahoward : 老黄server/HPC本来就是後挖矿时代主力了 02/13 12:09
10F：→ zzahoward : 游戏显卡慢慢卖就好 不然你要买AMD? 02/13 12:10
11F：推 js850604 : 赞赞，显卡卖起来，老黄发大财 02/13 12:10
12F：推 reason825 : 台积电衰退期又更短了 02/13 12:10
13F：推 peteryen : 卖给买的起的人 02/13 12:10
15F：推 Transposon : 玩得起的也没多少家，天天恐恐恐，恐龙欧 02/13 12:12
16F：推 shinyi444 : 0.0？？？ 02/13 12:12
17F：推 kausan : 4090你各位现在不买以後就没了 02/13 12:14
18F：→ idernest : 等等党的重大挫败 02/13 12:15
19F：推 donkilu : 这未免也太吹了… 02/13 12:17
20F：推 tomdavis : 老黄 : 贵不是产品的问题 是你的问题 02/13 12:18
21F：推 jei01 : 炒挖矿还有理，当人人都在玩A.I.吗？ 02/13 12:20
22F：→ hicoy : 显卡... 真的有人以为这是用显卡 02/13 12:22
23F：推 simo520 : 早喷完了。 02/13 12:23
24F：推 capssan : 想多了，之前就有人算过这个量了= = 02/13 12:25
25F：推 hectorbibby : 124楼的辉达 哪时要下车XD 02/13 12:27
26F：→ uv5566 : 挖矿一班人还会玩 AI是能有多少量???? 02/13 12:30
27F：推 as80110680 : 机器学习用跟一般消费级已经区隔开了，不过NV也有 02/13 12:31
28F：→ as80110680 : 在做，倒是30的库存到底要消多久，40卡真的有够臭 02/13 12:31
29F：推 Lowpapa : 晚了 02/13 12:32
30F：推 huk40199 : 是喔 02/13 12:36
31F：嘘 dos01 : ...这种文就是标准骗韭菜 根本没在研究显卡的 02/13 12:36
32F：→ zzahoward : 老黄目前游戏显卡产品线 40本来就不是替代30的 40是 02/13 12:36
33F：→ zzahoward : 30的高阶版本 等30杀完消费者剩余後再降价就好 02/13 12:36
34F：推 spiral0857 : 40随便一张都是我以前组一台电脑的钱了… 02/13 12:37
35F：推 stanleyiane : 有题材、股票会涨就好 02/13 12:38
36F：推 kncc31 : 吹太大早就有的东西 成本最大是人力去解析收集来的 02/13 12:39
37F：→ kncc31 : 资料啦 02/13 12:39
38F：嘘 dos01 : 航运也会涨阿 反正就只要自己不是最好一只老鼠就好 02/13 12:40
39F：→ dos01 : 对吧 呵~ 02/13 12:40
40F：推 caity : 你把这些说法套在CPU,5G也说得通阿 02/13 12:41
41F：→ iwinlottery : 4090要买要快 02/13 12:43
42F：推 sushi11 : 显示卡发大财 02/13 12:44
43F：推 oyaji5566 : 乾脆说霍格华兹带动显卡销量我还比较相信 02/13 12:47
44F：推 CRAZYAWIND : 假消息吧 02/13 12:50
45F：→ CRAZYAWIND : 机器学习 该训练的演算法都已经在跑了 才说在涨 02/13 12:51
46F：→ KFC007 : 生成AI能干嘛，能换钱吗？ 02/13 12:53
47F：→ Kobe5210 : 焦点又回到NVIDIA罗 02/13 12:53
48F：→ whk1895 : 呵，库存销完了没？ 02/13 12:54
49F：推 bryan910015 : 40至少3万起跳到底多少人买 02/13 12:55
50F：推 DecemberLV : 笑死 之前才在喊库存过多 新闻真的都不要脸 02/13 12:55
51F：推 lolicat : 喷烂了 02/13 12:57
52F：推 ptta : 超级军备竞赛开始 ！微软，谷歌疯狂抢购，tsmc nvda 02/13 12:57
53F：→ ptta : 喷上天 02/13 12:57
54F：→ lolicat : 40系不是说销量多好多好吗 02/13 12:57
55F：推 poeoe : GPU未来就是生产力工具 游戏玩家慢慢等吧 02/13 13:03
56F：推 horseorange : 只有玩云端那三家养的起NVDA了 02/13 13:03
57F：推 dream1124 : 涨45%要出货的意思？ 显卡价格还没回弹啊 02/13 13:05
58F：推 turndown4wat: 赚烂 02/13 13:06
59F：→ ASKA : 还好我4090买了 02/13 13:12
60F：→ sagarain : 接下来就会发现AI有多无力了 先炒再说 02/13 13:12
61F：推 Csy065 : 怎麽看都是data center 会涨 02/13 13:14
62F：推 icelaw : 生成式AI不是吃CPU 吗 02/13 13:15
63F：推 hegemon : 各大cloud provider 都在延长现有机器的使用年限了 02/13 13:17
64F：→ hegemon : ，是要卖给谁 02/13 13:17
65F：→ zzahoward : 延长问题是还是要扩充设备阿 需求越来越高 02/13 13:19
66F：→ zzahoward : 你不会以为扩充就没需求吧 02/13 13:20
67F：推 n1canhelpu : 好了啦 又放消息 到底想骗多少散户 02/13 13:20
68F：→ danwhei : 仓库快没货了 赶快加码 02/13 13:22
69F：推 lusifa2007 : 显卡又要喷了 02/13 13:26
70F：→ YLTYY : 好爽 每年都有题材可以炒 02/13 13:26
71F：推 jc761128 : 救救刀硕 02/13 13:28
72F：推 felix1017 : 又不会每间公司都开发自己的AI 讲得好像人人挖矿 02/13 13:30
73F：推 j32072 : 哲神预告在前 显卡开喷 02/13 13:34
74F：→ realbout : 台GG又要喷? 02/13 13:39
75F：推 tpegioe : 用那麽多GPU，美国电好像不用钱似的？ 02/13 13:40
76F：推 birdjack : 人类真可怕，只为了资讯处理就要加速能源的消耗 02/13 13:42
77F：推 kcchc3000 : A100跟4090是用途完全不一样的产品吧 02/13 13:43
78F：嘘 jay3u7218 : 再吹阿 是能多爆阿排挤到个人电脑 02/13 13:45
79F：推 tomdavis : nvidia 一台10万镁起跳的server供不应求 02/13 13:47
80F：推 bee0316 : 丸子 02/13 13:49
81F：→ YJSai : Google不用nvidia的吧？谷哥有自己的tpu 02/13 13:49
82F：嘘 KadourZiani : 十月底呛爱大癌大教主的要道歉吗？都涨回来解套还大 02/13 13:52
83F：→ KadourZiani : 赚了 02/13 13:52
84F：→ appledick : google在AI这一块真的没啥重大突破 02/13 13:56
85F：推 ZunYin : 需求看到2030.jpg 02/13 14:00
86F：→ faelone : NVDA就没有因为这次AI大战多向GG下单吼，硬要炒股 02/13 14:15
87F：嘘 scratch01 : 老黄现在只有4090卖好 80跟70TI 颗颗 02/13 14:19
88F：推 strlen : 月底300 年底1000 NVDA GOGOGO 02/13 14:19
89F：嘘 scratch01 : 买4090还要烦恼薛丁格的插紧 02/13 14:22
90F：推 s800525 : 是看未来AI应用商机爆发，今年可能不会差很多，但 02/13 14:27
91F：→ s800525 : 往後五年AI军备竞赛开打需求就喷发了，这次GPT就是 02/13 14:27
92F：→ s800525 : 告诉一般人AI未来的应用性，如果讲到这还心理还没 02/13 14:27
93F：→ s800525 : 个未来蓝图… 好吧 你是对的 02/13 14:27
94F：推 Dia149 : 用显卡玩ai 问号 02/13 14:29
95F：推 j6569642 : 图像影像生成ai 嘿嘿 02/13 14:35
96F：嘘 scratch01 : 任何猜测市场未来的都已经死在沙滩上了 02/13 14:35
97F：嘘 dos01 : 说的真好 当初元宇宙也很会画未来蓝图 蓝焦土啦 02/13 14:43
98F：→ dos01 : 信元宇宙那批不知道死去哪了 02/13 14:44
99F：推 pacino : 相信黄董，年底就懂。 02/13 14:53
100F：→ photonic : 不需要显卡吧? 02/13 14:59
101F：→ DEAKUNE : 贵不是老黄的问题，是你的问题 02/13 15:02
102F：推 benson01 : 推文真可爱，说AI用不到显示卡 02/13 15:13
103F：→ cleanx : 都涨快一倍才看多 02/13 15:15
104F：推 s800525 : 先入为主认为元宇宙跟AI支持者同一批也是ㄎㄎ，去 02/13 15:17
105F：→ s800525 : 用看看GPT辅助工作提高效率多好用就知道了，题外话 02/13 15:17
106F：→ s800525 : 元宇宙是垃圾，谁想一天到晚带个头盔在脸上 02/13 15:17
107F：推 kcchc3000 : 了解一下GPGPU跟传统GPU的差异就会知道AI到底需不 02/13 15:23
108F：→ kcchc3000 : 需要GPU 02/13 15:23
109F：推 kobi0910 : 马的挖矿死去改吹AI 虽然我也觉得AI有搞头啦 02/13 15:43
110F：推 hduek153 : 都炒作一波了 准备收割 02/13 15:46
111F：推 Wilsly : 我恐你个鬼 02/13 16:06
112F：推 falcon11 : 看完推文表示非常开心 02/13 16:11
113F：推 ty67 : 好像一堆推文都不知道CUDA这独霸市场的东东 02/13 16:13
114F：→ newwu : neural network 当然是用gpu 除了自己研发晶片的， 02/13 16:35
115F：→ newwu : 九成以上都用n家的吧 02/13 16:36
116F：推 gwofeng : 难怪矿老板被抛弃了，因为还有AI可以噱啊 02/13 16:44
117F：推 nangaluchen : 其实CUDA以後很可能变成没意义的东西 02/13 16:46
118F：嘘 Murasaki0110: 1000亿镁? 虾鸡巴乱喊 02/13 17:19
119F：推 b777300 : AI技术还不到爆发期，现在只是用AI话题来掩护需求 02/13 18:09
120F：→ b777300 : 放缓的问题 02/13 18:09
121F：→ aq981334 : 4090也跑不动AI啦，能跑的，做出来的成果还没好到 02/13 18:19
122F：→ aq981334 : 哪里去 02/13 18:19
123F：→ aq981334 : 最近用训练AI语音，VRAM 24GB还是常常跑到边缘 02/13 18:20
124F：→ aq981334 : 再丢一些复杂数据就直接爆VRAM了 02/13 18:22
125F：→ aq981334 : Google 跟微软玩的是更多更复杂的东西，跟普通显示 02/13 18:22
126F：→ aq981334 : 卡没半毛钱关系 02/13 18:22
127F：→ aq981334 : 电脑记忆体跟显示卡记忆体都能跑爆，十几万的家用 02/13 18:26
128F：→ aq981334 : 电脑大概就普通人勉强入门AI而已，再上去得商业/科 02/13 18:26
129F：→ aq981334 : 研用的，跟普通人没什麽关系，电脑十几万以下的更 02/13 18:26
130F：→ aq981334 : 不用想太多 02/13 18:26
131F：→ aq981334 : 除非NVIDIA不做家用GPU，直接专注於商业，跟IBM一 02/13 18:28
132F：→ aq981334 : 样，退出家用市场 02/13 18:28
133F：推 bj45566 : IBM 是「被」退出家用市场... 02/13 19:19
134F：推 kklighter : 冠荣不要唬烂，什麽都扯老黄 02/13 19:28
135F：嘘 filaac : 乾脆说蛋价上涨 员工加钱买蛋 导致GPU产品价格攀升 02/13 19:54
136F：推 kkchen : 生成式 AI是不是代表未来软体工程师将全数失业??? 02/13 21:28
137F：推 kanehhh : 一堆人看衰就对了 02/14 00:15
138F：→ aq981334 : AI还不够聪明到会让工程师失业，嚷其他行业失业倒 02/14 06:14
139F：→ aq981334 : 是有可能 02/14 06:14
140F：→ aq981334 : 比如翻译，只要专业翻译数据够多就能流畅的翻译， 02/14 06:15
141F：→ aq981334 : 可以语法、文笔都接近真人翻译 02/14 06:15
142F：推 erowii : 比拿来挖矿有价值多了 02/14 08:01
143F：推 lu1626 : 老黄GPGPU没对手 准备再起飞 02/14 12:55
144F：推 fishweija : 未来都是 ai爆发的时代 02/15 08:47