别小看Gaudi 3，其采取低成本和慢慢蚕食战略，伺机夺下AI晶片市场 原文网址: https://bit.ly/3xOU5as 原文: 为了加强与辉达在AI训练和推理应用晶片市场的竞争，英特尔推出了人工智慧加速器晶片 Gaudi 3。该公司声称它比Nvidia的H100 GPU更快、更有效率，并且与Nvidia最近推出的 Blackwell级GPU相比「极具竞争力」。 英特尔声称，Gaudi 3在训练大语言模型方面比H100快1.7倍。在推理方面，Gaudi 3的推 理应用速度比H100快1.5倍，也比H200快1.3倍。英特尔还表示，Gaudi 3在运行LLM时的能 效比H100高出2.3倍。最重要的是，Gaudi 3的成本预算仅仅是辉达H100的一小部分。 由於这些因素，使得Naver（韩国网路公司）、博世、IBM、Ola等成为英特尔Gaudi 3的客 户和合作夥伴。而2024年第二季度，英特尔将向戴尔、惠普以及超微型电脑（Super Micro Computer）、和联想等OEM厂商首批供货。正式上市时程却是在第三季。 基本上，Gaudi 3 AI加速器可描述为具有「异质电脑架构」。它拥有64颗Tensor处理器核 心（第五代）、8个矩阵数学引擎、128 GB HBM容量（3.7 TB/s）、96 MB SRAM（12.8 TB/s）、24个200 GbE RoCE乙太网路连接埠和PCIe 5。 虽然Gaudi 3比起H100更好，但是却不足以对抗辉达Blackwell平台。英特尔构思的策略是 ，随着企业面临AI成本不断上升的问题，任何能够保持效能但价格更实惠的产品都将是非 常具吸引力的解决方案。从平台特性和功能来说，辉达Blackwell平台绝对没有一家公司 能够与之抗衡，但是价格标签是Blackwell的一个严重阻碍，更何况辉达宣称，B100晶片 初期将供不应求。 这就给英特尔一个战略的切入点，毕竟，想要省钱但却在可接受替代方案上，Gaudi 3产 品的确是最佳选择。 如果当初英特尔直接研发出超越B100的AI晶片，可能会面临在硬体技术领先，但整体生态 追不上，且成本过高的窘境。反而没有其他公司愿意尝试Gaudi 3。如今在成本优势下， Gaudi 3在性能上超越H100，就足以让其他公司愿意尝试采用，毕竟，英特尔并未拥有 CUDA的软体。 换句话说，想要其他企业采用Gaudi 3，英特尔必须在软体上齐头并进。有了低成本的硬 体，企业才有尝试UXL开源软体平台的勇气。 英特尔知道辉达成功的关键之一是CUDA，甚至说是软硬体结合的生态体系，所以初期策略 绝对不要硬碰硬，而且慢慢蚕食辉达的市场占有率。先让一小部分企业愿意尝试Gaudi 3 和其开源软体平台，再透过口耳相传以及企业反馈，来抢夺市场大饼。 如今仍难以知道英特尔这些战略会不会奏效，还是要等产品上市才能揭晓。但从战略角度 上，的确是具有威胁力的尝试啊！ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1713311560.A.60B.html