作者jeff0025 (无法显示人物名称)
看板Tech_Job
标题[新闻] 英特尔推新款AI加速器Gaudi 3 台积电5奈
时间Wed Apr 10 12:30:02 2024
英特尔推新款AI加速器Gaudi 3 台积电5奈米生产
2024/04/10 11:45:32
中央社 记者张建中新竹10日电
英特尔（Intel）推出新款AI加速器Gaudi 3，采用台积电5奈米生产，预计今年第2季向代
工厂提供通用基板和开放加速器模型的标准配置，第3季全面上市。
英特尔表示，Gaudi 3加速器是专为高效能、高效率的生成式AI运算所打造，每台加速器
都有专属的异质运算引擎，运算效率高，并擅於处理复杂的矩阵运算，是深度学习演算法
的基础运算。
英特尔指出，Gaudi 3搭载128 GB的HBMe2记忆体容量、3.7 TB的记忆体频宽和96 MB的静
态随机存取记忆体（SRAM），能够提供处理大型生成式AI资料集所需的记忆体，且适用於
大型语言和多模态模型，有助於提升工作负载效能和资料中心的成本效率。
Gaudi 3加速器整合24个200 GB的乙太网路连接埠，提供开放标准网路，实现高效扩充，
以支援大型运算集，并克服专有网路架构的供应商限制。
英特尔表示，Gaudi 3加速器是采用台积电5奈米制程生产，在B16浮点格式的运算效能，
为前一代采用7奈米Gaudi 2加速器的4倍；Gaudi 3的记忆体频宽和网路频宽也分别是
Gaudi 2的1.5倍和2倍。
英特尔说，Gaudi 3的参数模型训练时间、推论吞吐量和推论能源效率皆优於辉达（
NVIDIA）的H100，推理速度也优於辉达的H200。
https://reurl.cc/2YMMv9
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 113.196.174.254 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1712723405.A.2BB.html
1F：推 demonhell : Intel AI老三，却有两条AI产品线 04/10 12:43
2F：推 TCross2 : 台积真香 04/10 13:05
3F：推 jayemshow : 我就问台积怎麽输? 各联盟晶片都找台积生产 04/10 13:55
4F：→ ryusez : 三星5nm表示，，， 04/10 15:07
6F：推 Chilloutt : 先上256gb 04/10 16:13
7F：→ jimmykuo123 : 笑死 intel4不是很香吗 怎麽下台积5nm 04/10 17:30
8F：→ samm3320 : 还在比H200 知道B200多快吗 04/10 18:39
9F：→ SabreN : 连Google 的AI 晶片也来GG了，终究是要来的，跟着三 04/10 22:27
10F：→ SabreN : 星稳死的 04/10 22:27
11F：嘘 SRT0619 : 电虾板在置底讨论13/14代 cpu灾情，不是个案 04/11 01:22
12F：→ SRT0619 : 制程没进步只会加电压挤效能 结果电死XD 04/11 01:24
13F：→ i1210 : 哈哈哈哈哈哈 04/12 23:25
14F：嘘 i1210 : 韩国Samsung 流氓公司废到买大量新闻说自己砍供应 04/12 23:27
15F：→ i1210 : 商单和做假帐很行很了不起了，怎麽输。 04/12 23:27
16F：→ i1210 : 英特尔如果未来想把订单都外包可以考虑再多砍几次 04/12 23:28
17F：→ i1210 : 研发费用和员工保证继续外包给t 04/12 23:28