作者stpiknow (H)
看板Tech_Job
标题[新闻] AI超级集群时代即将来临!这对AI晶片是利
时间Tue Nov 26 14:06:02 2024
AI超级集群时代即将来临!这对AI晶片是利多,但会持续多久呢?
原文网址:
https://bit.ly/3Oo2g2G
原文:
过去两年来,营运大数据中心的公司一直在竞相购买辉达的AI处理器。现在,一些最雄心
勃勃的参与者正在透过建立所谓的超级电脑伺服器集群来升级未来AI之战。
xAI在几个月内就在孟菲斯建造了一台名为Colossus的超级电脑,其中配备了 100,000颗
辉达的Hopper AI晶片,并宣称全世界上最强大的超级集群。Meta执行长马克祖克柏於
2024年10月表示,他的公司已经在使用一组晶片来训练其最先进的AI模型,因为其也正积
极建立超级集群。
一年前,由数万个晶片组成的集群就被认为是非常庞大了。根据瑞银分析师估计,OpenAI
使用了大约10,000颗辉达AI晶片来训练其於2022年底推出的ChatGPT版本。如今这一超级
集群风潮,开始吹向更多厂商。
也由於对这种更大超级集群的推动,正帮助辉达维持成长轨迹,使其季度营收从两年前的
约70亿美元增加到如今的超过350亿美元。
迄今为止,将许多晶片安装在一个地方,并透过超高速网路电缆连接在一起,可以以更快
的速度产生更大的AI模型,似乎成为风潮。换句话说,辉达AI热潮的持续在很大程度上将
取决於最大的晶片集群的表现。这一趋势不仅带来了晶片购买热潮,还刺激了对辉达网路
设备的需求,该设备正迅速成为一项重要业务,每年带来数十亿美元的销售额。
如今看起来,用於训练巨型AI模型的最大超级集群最多包含10万颗辉达当前晶片。接下来
的下一代超级集群的起始数量约为10颗Blackwell晶片,这一性能提升将是明显的。
对於xAI和Meta等公司来说,这一场资金赌注很高。它们一方面为了运算能力而相互竞争
,另一方面也打赌拥有更多的辉达晶片,将可转化为相应更好的AI模型。除了xAI和Meta
之外,OpenAI和微软也一直致力於为AI建立重要的新型运算设施。此外,谷歌也正在建造
大型数据中心来容纳驱动其AI战略的晶片。
根据SemiAnalysis研究,超级集群正从几十个晶片一直扩展到10万颗AI晶片,但没有证据
其会持续扩展到100万颗AI晶片和1000亿美元的系统。可是马斯克的下一步可能是在2025
年夏天为xAI和自动驾驶系统建立一个由辉达最新晶片组成的30万颗晶片集群。
这是一个庞大的投资,毕竟,每一颗Blackwell晶片的成本约为3万美元,这意味着10万颗
AI晶片的超级集群将花费30亿美元,那更不用说30万颗AI晶片了。此外,随着高耗能晶片
集群变得更加紧密,保持辉达晶片冷却就变成一项重大挑战。
这一场AI超级集群的游戏,将是下一个值得关注的议题,这也会影响未来AI趋势的发展啊
!
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1732601165.A.81C.html
1F:→ yunf : 不论多强大下一次就是突破物理架构的极限 11/26 18:29
2F:→ yunf : 现在怎麽跑都还是电子 11/26 18:29
3F:→ yunf : 後面有光子和量子 11/26 18:29
4F:→ yunf : 以前以为马够快了後来引擎用马力计算 11/26 18:31
5F:→ yunf : 再来飞机再来战斗机超音速战斗机 11/26 18:31
6F:→ yunf : 太空梭火箭10倍20倍音速 11/26 18:32
7F:→ yunf : 曲速 11/26 18:32
8F:→ yunf : 除非你是理论科学的先驱不然永远只能被牵着走 11/26 18:36
9F:推 rnoro : 推楼上,现在市场充斥着话术,听得让人厌烦 11/28 05:04