RISC-V阵营的振奋时刻！Meta可能是采用RISC-V架构设计自家AI晶片 原文网址:https://bit.ly/3FzjFV7 原文: Meta正在悄悄测试基於RISC-V的AI训练晶片。如果该晶片满足Meta的目标，它可能会减少 对高阶辉达AI GPU（如H100/H200和B100/B200）的依赖，用於训练先进的大语言模型。以 目前来看，Meta和博通合作推出了首款AI训练加速器，台积电则生产了初始工作样品。 其实早在2023年，Meta推出了第一代自家AI推理加速器，旨在为脸书和Instagram的排名 和推荐系统提供支持，随後在2024年4月推出了一个新版本，将运算和记忆体频宽增加了 一倍。 後来在2024年Hot Chips研讨会上，Meta就透露其推理晶片基於台积电的5奈米制程打造， 处理单元核心是基於RISC-V架构。 如今随着路透社独家揭露，Meta正在为AI训练而设计晶片，但是其却未提到是采用RISC-V 架构。 MTIA(Meta Training and Inference Accelerator)的推理加速器使用开源RISC-V核心。 这使得Meta能够根据自己的节奏自订指令集架构以满足其要求，且不需要向任何第三方支 付版税。目前尚不清楚MTIA的训练加速器是否也基於RISC-V ISA，但可能性非常之大。如 果这是真的，Meta可能已经开发出业界性能最高的基於RISC-V的晶片之一。 根据专家判断，预计该处理器将配备HBM3或HBM3E记忆体。由於其属於客制化处理器，因 此是由Meta定义了其支援的资料格式和指令，以优化晶片尺寸、功耗和效能。至於性能， 该加速器必须提供与辉达AI GPU具有竞争力的每瓦性能特性。 虽然该晶片的具体规格仍然是个谜，但AI训练硬体通常依赖脉动阵列(systolic array)架 构，旨在透过矩阵和向量运算处理海量数据集。 Meta设计这一晶片的风险是，在有限的部署测试中，其内部推理处理器如果未能达到效能 和功率目标，因此可能会停止生产。这一案例就曾经发生在2022年的Meta公司，进而让其 改变策略，改为大量订购辉达GPU，以满足其即时的AI处理需求。 自那时起，Meta已成为辉达最大的客户之一，并购买了数万颗GPU。这些单元对於训练推 荐、广告和Llama Foundation模型系列的AI模型至关重要。因此，Meta的RISC-V之AI训练 晶片能否在2026年达到Meta客制化AI晶片的目标，就成为其未来命运走向的关键。 从长远来看，尽管面临这些挑战，Meta势必仍在继续推进其客制化矽晶片计划，毕竟，AI 是长久趋势，Meta不可能放弃自行研发AI晶片的努力。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1742190918.A.13C.html