Stock 板


LINE

大躍進!蘋果宣布MLX框架將支援NVIDIA CUDA平台 2025-07-16 17:07:35 記者孟圓琦/編譯 https://www.technice.com.tw/issues/ai/182711/ 蘋果專為Apple Silicon設計的機器學習框架MLX,目前正積極導入NVIDIA CUDA 平台支援 ,此舉對於機器學習領域而言,無疑是一項重大進展。 MLX 是一個專為在 Apple 晶片上進行高效、靈活的機器學習研究而設計的陣列框架。如 今宣告將導入NVIDIA CUDA 平台支援。 經外媒《AppleInsider》報導指出,這項工作的推動者是 GitHub 上的開發者@zcbenz, 他早在數月前便開始著手 CUDA 支援的原型開發。隨後,他將專案拆分成多個較小部分, 並逐步將其整合至 Apple MLX 的主分支中。儘管 CUDA 後端目前仍在開發階段,但多項 核心運算操作已獲得支援並通過測試,包括矩陣乘法、Softmax、歸約、排序和索引等。 CUDA (Compute Unified Device Architecture),本質上是 NVIDIA 硬體的「Metal」: 一個專為自家 GPU 設計的運算平台,旨在最大化其在高效率平行運算任務中的效能。對 於許多人而言,CUDA 是在 NVIDIA GPU 上執行機器學習工作負載的標準方式,並廣泛應 用於整個機器學習生態系統,從學術研究到商業部署。諸如PyTorch和TensorFlow等深度 學習框架,都依賴 CUDA 來利用 GPU 加速運算。 那麼,為何 Apple 的 MLX 框架要開始支援 CUDA 呢?MLX 最初是為 Apple Silicon 和 Metal 進行優化,但增加 CUDA 後端改變了這一局面。現在,研究人員和工程師可以在 Mac 上利用 MLX 本地開發 CUDA 模型,然後將其部署到大型 NVIDIA GPU 叢集上,這些 叢集目前在機器學習訓練工作負載方面仍佔據主導地位。 儘管如此,目前仍存在一些限制,其中大部分仍在積極開發中。例如,並非所有 MLX 運 算子都已實作完成,且對 AMD GPU 的支援仍在更遠的計畫中。 即便如此,能夠在無需重寫程式碼的情況下,將 MLX 程式碼引入 NVIDIA GPU,為更快的 測試、實驗和研究用例開啟了大門,這幾乎是所有 AI 開發人員都樂於聽到的消息。 心得/評論: 這則新聞出來有一個星期了,但我沒看到版上有人貼。 所以我貼出來,想趁機討論一下。 我剛去查証了一下,這消息似乎是小道消息,蘋果似乎沒有正式的發怖這個消息。 若蘋果打算將他們內部的AI架構port到cuda上。 這是不是暗示,蘋果以後也可能擁抱nvidia生態系。 以前就有聽說,蘋果很排斥nvidia,因為以前有過節。 難道不久的未來,我們會看到大合解? nvidia和蘋果的股價一起up up? --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.21.176.170 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1753247498.A.510.html ※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:12:18 ※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:14:19
1F:推 dragonjj : 很難說 可能全部都支援 ASIC CUDA AMD M4 晶片一起 07/23 13:13
2F:推 ChristopherW: 最近蘋果漲這個? 07/23 13:16
3F:推 NexusPrime : 以後可能Mac Pro裝GB300下一代 07/23 13:16
4F:推 exojin : 自家晶片無法跑AI? 07/23 13:18
5F:推 CAFEHu : AAPL大戶:讓我們拉高出貨臭了嗎? 07/23 13:20
6F:推 josephpu : 老黃在中國才講我們歡迎任何人來兼容CUDA 哈 07/23 13:21
7F:→ piece1 : 人人笑阿婆,阿婆還是越來越貴 07/23 13:22
8F:推 ohya111326 : 不用cuda 還能用啥 07/23 13:27
9F:推 maniaque : 類似編譯成CUDA語言,然後發包給CUDA執行吧 07/23 13:32
10F:→ maniaque : 這樣不管底層是用啥硬體(Apple晶片,NV晶片),都可跑 07/23 13:33
11F:→ maniaque : 那,學MLX就不用學CUDA,一樣可以用到NV GPU來工作 07/23 13:33
12F:→ aixiiae2005 : OK NV繼續噴 07/23 13:34
13F:→ NexusPrime : 類似proton轉譯吧,讓Linux可以玩win平台3A大作 07/23 13:40
14F:→ ggirls : 未來相容華為 07/23 13:49
15F:推 waitrop : 應該是軟體編譯轉譯,底層硬體Apple晶片不支援cuda 07/23 13:53
16F:→ waitrop : 因為Apple晶片支援cuda會有智慧財產權的問題 07/23 13:53
17F:→ Snake5566 : https://github.com/ml-explore/mlx/pull/1983 07/23 13:54
18F:推 timTan : 是framework 支援。不是硬體支援。要不然在Mac 上 07/23 13:55
19F:→ timTan : 無法認真開發 LLM 07/23 13:55
20F:推 a1234567289 : 這就是單純framework支援CUDA backend而已 07/23 13:58
21F:推 KINGWAP : AI coding 能力若真那麼強 07/23 13:59
22F:→ KINGWAP : 這種改寫的程式應該是沒什麼難度 07/23 13:59
23F:→ ActionII : 在mac 上連要推論都只有那幾個選項啦..但存粹拿llm 07/23 14:00
24F:→ ActionII : 來開發ai agent 好像也不需要這些啊 07/23 14:00
25F:推 aaaaaaaa9 : 應該說弄一條快速道路共享速度的資源,至於到哪個 07/23 14:00
26F:→ aaaaaaaa9 : 城市發展做什麼事情,交流道怎麼開發,就是廠商自己 07/23 14:00
27F:→ aaaaaaaa9 : 的事情了 07/23 14:00
28F:→ soem : Apple Silicone做不出自己要的AI晶片吧,低頭轉向NV 07/23 14:01
29F:→ soem : 的硬體了 07/23 14:01
30F:推 mdkn35 : 確定不是文化大革命或土法煉鋼? 07/23 14:02
31F:→ ActionII : 他這篇的新聞到底要實現啥功能== 07/23 14:02
32F:→ ActionII : 如果是在蘋果晶片上面模擬cuda 的話,其實也沒啥不 07/23 14:02
33F:→ ActionII : 好 07/23 14:02
34F:推 soem : 新聞不是說用MLX框架開發的程式,未來可以丟到大型 07/23 14:04
35F:→ soem : NV GPU叢集嗎? 07/23 14:04
36F:推 pponywong : 沒有用 apple晶片拿來做endpoint inference就好了 07/23 14:06
37F:→ pponywong : 他又不是拿來做train model的 07/23 14:06
38F:→ pponywong : 這篇只是講他內部有工程師把Apple晶片porting 到 07/23 14:07
39F:→ pponywong : cuda layer上而已 實際沒屁用 07/23 14:07
40F:→ kivan00 : AMD有贊助過轉譯的專案 已經終止了 變數太大很難長 07/23 14:08
41F:→ soem : 把硬體port到CUDA上?你是不是看反了? 07/23 14:08
42F:→ kivan00 : 期有效的使用 搞生產力的也沒閒時間一直debug 07/23 14:08
43F:推 strlen : 晚了我們也不要啦 07/23 14:09
44F:→ Riyar : 8051也宣布支援CUDA平台 07/23 14:10
45F:推 tpegioe : M5+RTX50X0成為官配,蛋雕自家顯示單元? 07/23 14:10
46F:→ tpegioe : MacBook 和iMac 重新擁抱輝達行動顯示晶片? 07/23 14:10
47F:→ ActionII : 呃,可是現在這種框架跨平台的這麼多,這樣跨的意 07/23 14:12
48F:→ ActionII : 義是? 07/23 14:12
49F:→ soem : 意義就是Apple AI可以不用跑在Apple Silicone 晶片 07/23 14:14
50F:→ soem : 上了,以後可以拿NV GPU跑Apple AI 07/23 14:14
51F:→ kivan00 : 沒有意義啊 就一個玩家向的開源計畫 直接去搞一台 07/23 14:14
52F:推 TameFoxx : 樓上說對了 根本毫無意義 07/23 14:15
53F:→ TameFoxx : 訓練完的模型原地轉mlx給Apple的裝置推論就好 07/23 14:15
54F:→ kivan00 : RTX 6000 Ada的工作站就直接上工了 Mac Pro直接蛋雕 07/23 14:16
55F:推 tpegioe : 下一代果粉人均一張輝達顯卡,輝達更有底氣把顯卡 07/23 14:16
56F:→ tpegioe : 售價提升,下一世代90系定價有機會突破12萬囉 07/23 14:16
57F:→ soem : 那也要Apple Silicone的運算能力跟得上呀,如果真的 07/23 14:17
58F:→ soem : 好棒棒,為什麼突然主動支援NV 07/23 14:17
59F:推 lusifa2007 : 噴爆 我還以為蘋果要擺脫NV自己弄 07/23 14:19
60F:→ ActionII : 現在老牌框架也支援mac gpu 啊,幹嘛蛋雕== 07/23 14:19
61F:推 truelove356 : 未來相容華為 華為取得技術後 寫中國專利 再趕走NV 07/23 14:19
62F:→ ActionII : 看s大說的,是想讓自家的學習框架也能跨平台而已 07/23 14:20
63F:推 yuen1029 : 你都說一個星期 看k棒不就知道了 低調就好 07/23 14:22
64F:→ ActionII : 如果是這樣,那沒啥反應也很正常,太小眾了 07/23 14:22
65F:→ ChikanDesu : 終究還是要歸隊 07/23 14:22
66F:噓 s90154aa : 不用蘋果 難道你要用大陸機? 07/23 14:22
67F:→ soem : 我是比較悲觀的覺得Apple因為算力因素不得不相容NV 07/23 14:25
68F:→ soem : 啦;但你說的沒錯,也可能是開發資源足夠,來試看看 07/23 14:25
69F:→ soem : 相容其他平台,增加一點相容性。 07/23 14:25
70F:推 by19 : All in NVDA 07/23 14:25
71F:→ kivan00 : 我的看法這就像支援directx讓你打電動一樣來增加附 07/23 14:28
72F:→ kivan00 : 加價值 但識貨的就不會在mac上折騰那些 07/23 14:29
73F:→ ActionII : 我是認為弄機器學習小專案,mac 是很不錯的平台啦 07/23 14:32
74F:→ ActionII : 你肯啟動一萬初就有16g能玩,掛小模型玩玩agent挺 07/23 14:33
75F:→ ActionII : 不錯的,還省電 07/23 14:33
76F:推 khoybgio : 99AMD,還有人在意他嗎 07/23 14:37
77F:推 kducky : 天下苦黃久矣 07/23 15:00
78F:推 zonppp : 終究還是要用nvda 07/23 15:03
79F:推 jamesho8743 : 這只是讓你能在MAC上開發CUDA相關的程式吧 07/23 15:19
80F:推 film12 : 消息無誤! 07/23 15:43
81F:推 jerry20151 : NV的護城河又加深啦 07/23 15:48
82F:推 jen1121 : 打不過就加入,蘋果時代已過 07/23 16:16
83F:→ dreamnook2 : NVDA 噴 07/23 18:15
84F:推 Lipraxde : 所以市長承認自己的做不贏?沒人要用? 07/23 18:21







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Soft_Job站內搜尋

TOP