Tech_Job 板


LINE

标题:TPU、ASIC与AI算力基础设施的竞合分析 来源:iknow科技产业资讯室 原文网址:https://pse.is/8fcefa 原文: 现阶段全球AI领域的竞争核心已从单纯的演算法之争,转变为算力基础设施的战略布局, 其中Google的TPU与Nvidia的GPU之间的角力,正是这场新战局的缩影。另一方面,无论 Meta是否真的大批量采购TPU,这个传闻已成功地成为Meta与Nvidia谈判桌上的一个强大 筹码,毕竟Nvidia执行长黄仁勳对此事件的公开回应,一方面展现对Google成功的祝贺, 另一方面也暗含对市场竞争加剧的警惕与承认,代表着AI算力市场正在从Nvidia独大向多 方竞争的格局转变。 不过尽管Google的TPU在特定AI任务上表现出卓越的效率和效能,但在短期内它仍无法在 广泛的市场上直接挑战Nvidia GPU的霸主地位,其主要原因可归结为以下三个维度,生态 系统、通用性与商业模式。毕竟短期内TPU仍将是Google在云端领域的战略武器,而非在 广泛硬体市场上挑战Nvidia的市场产品,只有当其生态系统大幅开放、支援更广泛的程式 设计模型,并在供应链上实现更具规模的独立供货时,TPU才有可能在商业竞争层面与 Nvidia 展开真正的市场对决。 TPU的云端锁定战略与独立硬体的可能性,意谓让TPU作为独立硬体直接与Nvidia进行正面 市场交锋的可能性极低 Google的TPU从其诞生之初,就被设计为一种针对特定工作负载、与内部 TensorFlow框架 深度优化的ASIC,此类设计哲学决定其与通用型GPU的根本差异,也造就Google的核心商 业战略,将TPU作为云端服务的独家武器。目前TPU仅透过Google Cloud租用,这是一种精 密的战略部署,它不仅能透过深度的软硬体整合,确保其性能发挥到极致,更重要的是, 它为云端服务(GCP)筑起一道难以跨越的护城河;客户若想使用顶尖的TPU算力,就必须进 入Google的生态系统,此既推动云端业务增长,也巧妙地锁定使用者。 在上述的情况下,尽管TPU早期曾有过小规模的市场尝试,但在当前地缘政治与技术竞争 的环境下,让TPU作为独立硬体直接与Nvidia进行正面市场交锋的可能性极低,这将直接 瓦解其云端服务的独家价值,使其在可预见的未来,仍将是GCP的核心战略工具。 ASIC与GPU的消长,此将是通用性与专业化的权衡,预计未来两者将是并存且分工的态势 ,但Nvidia凭藉其强大的生态系统,仍将是市场的标准制定者 ASIC(如TPU、AWS Inferentia)与GPU(如Nvidia G300)的竞争,实质上是通用性与专业化 之间的持续赛跑,其中Nvidia GPU的优势在於其强大的通用平行处理能力和不可撼动的 CUDA生态系统,使其在需要高度弹性和通用性的模型训练领域中仍处於主导地位。 然而随着 AI 模型的成熟和商业化部署,模型推论的需求开始爆发式增长。推论对能效比 和单位运算成本的要求极高,这正是ASIC专业化优势的用武之地。ASIC 通过针对特定AI 任务的优化,能提供比通用GPU更高的效率。因此未来的态势将是并存与分工,也就是顶 级的模型训练仍将由Nvidia领跑,但大型云服务提供商和科技巨头将大量采用自研ASIC来 处理日常推论工作,以降低成本并减少对单一供应商的依赖,故预期ASIC的市占率将逐渐 提高,但Nvidia凭藉其强大的生态系统,仍将是市场的标准制定者。 Google的租用算力模式与Nvidia的硬体贩售模式,代表企业在资本开支与营运开支之间进 行的战略抉择 在AI的世界里,租用算力犹如喝牛奶,倒不用自己养头牛的道理,其优势在於弹性高、启 动成本低,且能将技术快速迭代的折旧风险转嫁给云端服务商,这对需求波动大或资本较 小的初创公司而言极具吸引力。相对地,自建算力则适合超大规模的客户,例如Meta或 OpenAI,等同对於这些将算力视为核心战略资产的企业而言,完全掌握数据和软硬体堆叠 的控制权至关重要,因而这类公司倾向於采取自建(ASIC/GPU)结合租用云端的混合策略, 以在成本、控制权与技术领先之间取得平衡。总体而言,虽然长尾客户将持续推动云端租 用市场的增长,但头部客户的算力军备竞赛,确保自建和硬体采购模式的长期需求。 Meta 洽购Google TPU的传闻,无论其真实性如何,都在AI晶片市场引发强烈的震荡,代 表当前供应链的紧张和客户的议价策略 高性能AI晶片的核心瓶颈在於先进封装技术,尤其是台积电的CoWoS,而目前CoWoS产能是 决定AI晶片供货量的关键因素,主要客户如Nvidia、Google和AMD 都在争夺有限的产能, 且扩展速度受限於昂贵的关键设备与厂房空间,导致产能持续供不应求。此时若Google真 能向Meta大量供货TPU,此将代表Google在台积电的议价能力比外界预期的更强,或者其 正在有策略地释放部分产能,以扩大TPU的生态影响力。 事实上从商业谈判的角度来看,这个传闻对Meta而言是一个强大的战略筹码,毕竟过去 Meta传统上在向Nvidia采购时,其议价能力可能低於同时经营算力租赁业务的三大CSP, 因此被视为采购成本较高的一方。若Meta洽购TPU的举动,无论实际状况如何,都向市场 和Nvidia发出明确讯号,即Meta正在积极寻求算力供应的多样化,不愿受制於单一供应商 。而这种潜在的替代方案恐削弱Nvidia的绝对议价权,代表市场竞争加剧的情况,意谓AI 算力市场正在加速向多方竞争的格局演变。 心得: Google TPU在特定AI任务上的性能优势,仍不足以在短期内撼动Nvidia的核心地位。三大 结构性因素使其难以撬开GPU长期建立的护城河:生态系统的深度差距、通用性的天然限 制、以及云端锁定的商业模式。毕竟Google TPU自出生起就与TensorFlow深度绑定,从设 计哲学到供应策略都被定义为云端独家武器,而非面向整个硬体市场的普及性产品,这使 TPU难以像Nvidia GPU那样,成为所有模型与开发工具的共同语言。 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1765267849.A.DDA.html
1F:推 ckpetercheng: 当狗家将ai服务打包开始做b2b生意 133.106.241.63 12/09 18:53
2F:→ ckpetercheng: 老黄的苦日子就来了 133.106.241.63 12/09 18:53
3F:推 odddriver: google对to b兴趣不大 111.71.102.199 12/09 19:15
4F:嘘 pig2014: 就痴人说梦,tpu单位token成本根本没有 123.195.185.38 12/12 19:49
5F:→ pig2014: 特别省钱,然後生态系被锁死。除非goog 123.195.185.38 12/12 19:49
6F:→ pig2014: 愿意坐下来谈,让出一些话语权以及订出 123.195.185.38 12/12 19:49
7F:→ pig2014: 公用spec,这样才有机会跟gpgpu叫板。但 123.195.185.38 12/12 19:49
8F:→ pig2014: 是一旦这样做,竞争对手就会倾巢而出, 123.195.185.38 12/12 19:49
9F:→ pig2014: 台湾一堆house都在磨刀霍霍。goog sili 123.195.185.38 12/12 19:49
10F:→ pig2014: con也才成立多久,讲实在的有什麽design 123.195.185.38 12/12 19:49
11F:→ pig2014: 的能力?里面一定90%都是outsourcing, 123.195.185.38 12/12 19:49
12F:→ pig2014: 全都靠bcom跟mtk在撑,goog九成九成只是 123.195.185.38 12/12 19:49
13F:→ pig2014: 握住infra io以及自定义spec/payload。g 123.195.185.38 12/12 19:49
14F:→ pig2014: oog这次表现好靠的是软体与方法论,如果 123.195.185.38 12/12 19:49
15F:→ pig2014: 用一样的方法论,gpgpu一样能表现得很好 123.195.185.38 12/12 19:49
16F:→ pig2014: ,结果一堆瞎逼居然把硬体给扯上来。gpg 123.195.185.38 12/12 19:49
17F:→ pig2014: pu之後如果把cuda拟asic化,tpu的优势就 123.195.185.38 12/12 19:49
18F:→ pig2014: 几乎不在了,并且还要承受生态系转移成 123.195.185.38 12/12 19:49
19F:→ pig2014: 本以及演算法更新导致asic报废的风险。g 123.195.185.38 12/12 19:49
20F:→ pig2014: oog其实强的是方法论以及云端资源,像yo 123.195.185.38 12/12 19:49
21F:→ pig2014: utube跟map,过去及未来累积的巨量资料 123.195.185.38 12/12 19:49
22F:→ pig2014: 有近乎无穷的训练来源,这才是goog真正 123.195.185.38 12/12 19:49
23F:→ pig2014: 的价值,也是其他巨头必须借监的。现在 123.195.185.38 12/12 19:49
24F:→ pig2014: 市场风向根本彻底搞错了,大家看不懂真 123.195.185.38 12/12 19:49
25F:→ pig2014: 正的价值,然後被tpu唬一愣一愣的,goog 123.195.185.38 12/12 19:49
26F:→ pig2014: 也是在那边装逼 123.195.185.38 12/12 19:49
27F:嘘 pig2014: 「推 ckpetercheng: 当狗家将ai服务打包 123.195.185.38 12/12 19:52
28F:→ pig2014: 开始做b2b生意」你怎不乾脆说当av女优开 123.195.185.38 12/12 19:52
29F:→ pig2014: 始上门给你打免费炮,台女的苦日子就要 123.195.185.38 12/12 19:52
30F:→ pig2014: 来了 123.195.185.38 12/12 19:52







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Soft_Job站内搜寻

TOP