原文標題：英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄 原文連結：https://finance.eastmoney.com/a/202503193349461511.html 發布時間：2025年03月19日 08:36 記者署名： 原文內容： 3 月 19 日消息，英偉達在今日舉行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系統創下 DeepSeek-R1 大模型推理性能的世界紀錄。 　　據介紹，在搭載了八塊 Blackwell GPU 的單個 DGX 系統上運行 6710 億參數的滿血 DeepSeek-R1 模型可實現每用戶每秒超 250 token 的響應速度，系統最高吞吐量突破每秒 3 萬 token。 　　英偉達表示，隨著 NVIDIA 平臺繼續在最新的 Blackwell Ultra GPU 和 Blackwell GPU 上突破推理極限，其性能將會繼續不斷提高。 　　英偉達表示，通過硬件和軟件的結合，他們自 2025 年 1 月以來成功將 DeepSeek-R1 671B 模型的吞吐量提高了約 36 倍。 　　與 Hopper 架構相比，Blackwell 架構與 TensorRT 軟件相結合可實現顯著的推理性能提升。 　　英偉達表示，包括 DeepSeek-R1、Llama 3.1 405B 和 Llama 3.3 70B，運行 TensorRT 軟件並使用 FP4 精度的 DGX B200 平臺與 DGX H200 平臺相比已經提供了 3 倍以上的推理吞吐量提升。 精度 MMLU GSM8K AIME 2024 GPQA Diamond MATH-500 DeepSeek R1-FP8 90.8% 96.3% 80.0% 69.7% 95.4% DeepSeek R1-FP4 90.7% 96.1% 80.0% 69.2% 94.2% 　　英偉達表示，在對模型進行量化以利用低精度計算優勢時，確保精度損失最小化是生產部署的關鍵。IT之家註意到，在 DeepSeek-R1 模型上，相較於 FP8 基準精度，TensorRT Model Optimizer 的 FP4 訓練後量化（PTQ）技術在不同數據集上僅產生微乎其微的精度損失。 心得/評論： NVDIA的GTC開兩天，暴跌兩天。真慘啊 昨天是china ai日，deepseek今天又成爲了舞臺中央的角色 世界AI人才半數是華人，嗯哼。 輝達會在GTC第幾天終止跌幅呢 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.52.231.181 (中國) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1742345108.A.615.html ※ 編輯: icrose (123.52.231.181 中國), 03/19/2025 08:47:20