原文标题： 采台积电 5 奈米制程，Meta 下一代自研 AI 晶片性能提升 3 倍 原文连结： https://tinyurl.com/3czfhkta 发布时间： 2024 年 04 月 11 日 11:46 记者署名： 作者 陈 冠荣 Meta 去年公开首款自研晶片 MTIA（Meta Training and Inference Accelerator）成果 ，第一代 MTIA（MTIA v1）即采台积电 7 奈米制程，下一代 MTIA 同样委由台积电生产 。 在英特尔、Google 发表最新 AI 晶片之後，Meta 10 日也公开自研晶片开发成果。MTIA v1 後继产品官方称为下一代 MTIA（Next Gen MTIA），它执行的模型用於处理与 AI 推 荐系统相关的工作。与台积电 7 奈米制程建构的 MTIA v1 相比，下一代 MTIA 采用 5 奈米制程。 下一代 MTIA 配备更多处理核心，拥有更多 on-chip memory（256MB 对比 MTIA v1 128MB）和 off-chip LPDDR5（128GB 对比 MTIA v1 64GB），并以更高的平均时脉速度运 行，从 800MHz 上升到 1.35GHz，同时功耗增加（90W 对比 MTIA v1 25W）。 Meta 指出，下一代 MTIA 目前已投入 16 个资料中心区域使用。Meta 评估的四个关键模 型中，下一代 MTIA 性能比 MTIA v1 提升 3 倍，「由於我们控制整个堆叠，所以与商 用 GPU 相比，可以达成更高的运算效率」，Meta 部落格文章写道。 Meta 也透露，目前还没有使用下一代 MTIA 训练生成式 AI，尽管该公司声称有多项专案 正在进行。此外，Meta 承认下一代 MTIA 不会取代目前用於训练模型的 GPU，而是补充 运算资源。 英特尔最新发表 Gaudi 3，声称能源效率比 NVIDIA H100 晶片高 40%，推论速度快 50% 。Google 正向 Google Cloud 客户推出用於训练 AI 模型的 TPU v5p，并发表首款为资 料中心设计的 Arm 架构 Axion CPU。亚马逊拥有多款自研 AI 晶片，微软去年也已 AI 晶片 Azure Maia 100 和云端运算处理器 Azure Cobalt 100 参战。 Meta 近年不遗余力加强 AI 技术开发，自行研发客制化晶片以满足运算需求。该公司一 直是 NVIDIA H100 GPU 的大客户，今年底前 Meta 运算基础设施预计采购达到 35 万颗 H100。同时 MTIA 系列晶片开发也将加速进行，希望在 AI 军备竞赛赶上竞争对手。 心得/评论： 又是老黄包围网？ 怎麽一夕之间 人人都是晶片专家 纷纷自干晶片？ 原来晶片根本没什麽技术？ 随便组个团队凑一凑就超辉赶微？ 但不管是谁做的 通通都是要找台积电代工 而且还是训练跟推理通吃耶 什麽时候台积电市值要超越辉达？ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.169.25.109 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1712830262.A.8C5.html