作者dnol (舞秋风 忆白云)
看板Stock
标题[新闻] 苹果宣布MLX框架将支援NVIDIA CUDA平台
时间Wed Jul 23 13:11:36 2025
大跃进！苹果宣布MLX框架将支援NVIDIA CUDA平台
2025-07-16 17:07:35
记者孟圆琦／编译
https://www.technice.com.tw/issues/ai/182711/
苹果专为Apple Silicon设计的机器学习框架MLX，目前正积极导入NVIDIA CUDA 平台支援
，此举对於机器学习领域而言，无疑是一项重大进展。
MLX 是一个专为在 Apple 晶片上进行高效、灵活的机器学习研究而设计的阵列框架。如
今宣告将导入NVIDIA CUDA 平台支援。
经外媒《AppleInsider》报导指出，这项工作的推动者是 GitHub 上的开发者@zcbenz，
他早在数月前便开始着手 CUDA 支援的原型开发。随後，他将专案拆分成多个较小部分，
并逐步将其整合至 Apple MLX 的主分支中。尽管 CUDA 後端目前仍在开发阶段，但多项
核心运算操作已获得支援并通过测试，包括矩阵乘法、Softmax、归约、排序和索引等。
CUDA (Compute Unified Device Architecture)，本质上是 NVIDIA 硬体的「Metal」：
一个专为自家 GPU 设计的运算平台，旨在最大化其在高效率平行运算任务中的效能。对
於许多人而言，CUDA 是在 NVIDIA GPU 上执行机器学习工作负载的标准方式，并广泛应
用於整个机器学习生态系统，从学术研究到商业部署。诸如PyTorch和TensorFlow等深度
学习框架，都依赖 CUDA 来利用 GPU 加速运算。
那麽，为何 Apple 的 MLX 框架要开始支援 CUDA 呢？MLX 最初是为 Apple Silicon 和
Metal 进行优化，但增加 CUDA 後端改变了这一局面。现在，研究人员和工程师可以在
Mac 上利用 MLX 本地开发 CUDA 模型，然後将其部署到大型 NVIDIA GPU 丛集上，这些
丛集目前在机器学习训练工作负载方面仍占据主导地位。
尽管如此，目前仍存在一些限制，其中大部分仍在积极开发中。例如，并非所有 MLX 运
算子都已实作完成，且对 AMD GPU 的支援仍在更远的计画中。
即便如此，能够在无需重写程式码的情况下，将 MLX 程式码引入 NVIDIA GPU，为更快的
测试、实验和研究用例开启了大门，这几乎是所有 AI 开发人员都乐於听到的消息。
心得/评论：
这则新闻出来有一个星期了，但我没看到版上有人贴。
所以我贴出来，想趁机讨论一下。
我刚去查证了一下，这消息似乎是小道消息，苹果似乎没有正式的发怖这个消息。
若苹果打算将他们内部的AI架构port到cuda上。
这是不是暗示，苹果以後也可能拥抱nvidia生态系。
以前就有听说，苹果很排斥nvidia，因为以前有过节。
难道不久的未来，我们会看到大合解?
nvidia和苹果的股价一起up up?
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 211.21.176.170 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1753247498.A.510.html
※ 编辑: dnol (211.21.176.170 台湾), 07/23/2025 13:12:18
※ 编辑: dnol (211.21.176.170 台湾), 07/23/2025 13:14:19
1F：推 dragonjj : 很难说 可能全部都支援 ASIC CUDA AMD M4 晶片一起 07/23 13:13
2F：推 ChristopherW: 最近苹果涨这个？ 07/23 13:16
3F：推 NexusPrime : 以後可能Mac Pro装GB300下一代 07/23 13:16
4F：推 exojin : 自家晶片无法跑AI？ 07/23 13:18
5F：推 CAFEHu : AAPL大户：让我们拉高出货臭了吗？ 07/23 13:20
6F：推 josephpu : 老黄在中国才讲我们欢迎任何人来兼容CUDA 哈 07/23 13:21
7F：→ piece1 : 人人笑阿婆，阿婆还是越来越贵 07/23 13:22
8F：推 ohya111326 : 不用cuda 还能用啥 07/23 13:27
9F：推 maniaque : 类似编译成CUDA语言,然後发包给CUDA执行吧 07/23 13:32
10F：→ maniaque : 这样不管底层是用啥硬体(Apple晶片,NV晶片),都可跑 07/23 13:33
11F：→ maniaque : 那,学MLX就不用学CUDA,一样可以用到NV GPU来工作 07/23 13:33
12F：→ aixiiae2005 : OK NV继续喷 07/23 13:34
13F：→ NexusPrime : 类似proton转译吧，让Linux可以玩win平台3A大作 07/23 13:40
14F：→ ggirls : 未来相容华为 07/23 13:49
15F：推 waitrop : 应该是软体编译转译,底层硬体Apple晶片不支援cuda 07/23 13:53
16F：→ waitrop : 因为Apple晶片支援cuda会有智慧财产权的问题 07/23 13:53
18F：推 timTan : 是framework 支援。不是硬体支援。要不然在Mac 上 07/23 13:55
19F：→ timTan : 无法认真开发 LLM 07/23 13:55
20F：推 a1234567289 : 这就是单纯framework支援CUDA backend而已 07/23 13:58
21F：推 KINGWAP : AI coding 能力若真那麽强 07/23 13:59
22F：→ KINGWAP : 这种改写的程式应该是没什麽难度 07/23 13:59
23F：→ ActionII : 在mac 上连要推论都只有那几个选项啦..但存粹拿llm 07/23 14:00
24F：→ ActionII : 来开发ai agent 好像也不需要这些啊 07/23 14:00
25F：推 aaaaaaaa9 : 应该说弄一条快速道路共享速度的资源，至於到哪个 07/23 14:00
26F：→ aaaaaaaa9 : 城市发展做什麽事情，交流道怎麽开发，就是厂商自己 07/23 14:00
27F：→ aaaaaaaa9 : 的事情了 07/23 14:00
28F：→ soem : Apple Silicone做不出自己要的AI晶片吧，低头转向NV 07/23 14:01
29F：→ soem : 的硬体了 07/23 14:01
30F：推 mdkn35 : 确定不是文化大革命或土法炼钢？ 07/23 14:02
31F：→ ActionII : 他这篇的新闻到底要实现啥功能== 07/23 14:02
32F：→ ActionII : 如果是在苹果晶片上面模拟cuda 的话，其实也没啥不 07/23 14:02
33F：→ ActionII : 好 07/23 14:02
34F：推 soem : 新闻不是说用MLX框架开发的程式，未来可以丢到大型 07/23 14:04
35F：→ soem : NV GPU丛集吗？ 07/23 14:04
36F：推 pponywong : 没有用 apple晶片拿来做endpoint inference就好了 07/23 14:06
37F：→ pponywong : 他又不是拿来做train model的 07/23 14:06
38F：→ pponywong : 这篇只是讲他内部有工程师把Apple晶片porting 到 07/23 14:07
39F：→ pponywong : cuda layer上而已 实际没屁用 07/23 14:07
40F：→ kivan00 : AMD有赞助过转译的专案 已经终止了 变数太大很难长 07/23 14:08
41F：→ soem : 把硬体port到CUDA上？你是不是看反了？ 07/23 14:08
42F：→ kivan00 : 期有效的使用 搞生产力的也没闲时间一直debug 07/23 14:08
43F：推 strlen : 晚了我们也不要啦 07/23 14:09
44F：→ Riyar : 8051也宣布支援CUDA平台 07/23 14:10
45F：推 tpegioe : M5+RTX50X0成为官配，蛋雕自家显示单元？ 07/23 14:10
46F：→ tpegioe : MacBook 和iMac 重新拥抱辉达行动显示晶片？ 07/23 14:10
47F：→ ActionII : 呃，可是现在这种框架跨平台的这麽多，这样跨的意 07/23 14:12
48F：→ ActionII : 义是？ 07/23 14:12
49F：→ soem : 意义就是Apple AI可以不用跑在Apple Silicone 晶片 07/23 14:14
50F：→ soem : 上了，以後可以拿NV GPU跑Apple AI 07/23 14:14
51F：→ kivan00 : 没有意义啊 就一个玩家向的开源计画 直接去搞一台 07/23 14:14
52F：推 TameFoxx : 楼上说对了 根本毫无意义 07/23 14:15
53F：→ TameFoxx : 训练完的模型原地转mlx给Apple的装置推论就好 07/23 14:15
54F：→ kivan00 : RTX 6000 Ada的工作站就直接上工了 Mac Pro直接蛋雕 07/23 14:16
55F：推 tpegioe : 下一代果粉人均一张辉达显卡，辉达更有底气把显卡 07/23 14:16
56F：→ tpegioe : 售价提升，下一世代90系定价有机会突破12万罗 07/23 14:16
57F：→ soem : 那也要Apple Silicone的运算能力跟得上呀，如果真的 07/23 14:17
58F：→ soem : 好棒棒，为什麽突然主动支援NV 07/23 14:17
59F：推 lusifa2007 : 喷爆 我还以为苹果要摆脱NV自己弄 07/23 14:19
60F：→ ActionII : 现在老牌框架也支援mac gpu 啊，干嘛蛋雕== 07/23 14:19
61F：推 truelove356 : 未来相容华为 华为取得技术後 写中国专利 再赶走NV 07/23 14:19
62F：→ ActionII : 看s大说的，是想让自家的学习框架也能跨平台而已 07/23 14:20
63F：推 yuen1029 : 你都说一个星期 看k棒不就知道了 低调就好 07/23 14:22
64F：→ ActionII : 如果是这样，那没啥反应也很正常，太小众了 07/23 14:22
65F：→ ChikanDesu : 终究还是要归队 07/23 14:22
66F：嘘 s90154aa : 不用苹果 难道你要用大陆机？ 07/23 14:22
67F：→ soem : 我是比较悲观的觉得Apple因为算力因素不得不相容NV 07/23 14:25
68F：→ soem : 啦；但你说的没错，也可能是开发资源足够，来试看看 07/23 14:25
69F：→ soem : 相容其他平台，增加一点相容性。 07/23 14:25
70F：推 by19 : All in NVDA 07/23 14:25
71F：→ kivan00 : 我的看法这就像支援directx让你打电动一样来增加附 07/23 14:28
72F：→ kivan00 : 加价值 但识货的就不会在mac上折腾那些 07/23 14:29
73F：→ ActionII : 我是认为弄机器学习小专案，mac 是很不错的平台啦 07/23 14:32
74F：→ ActionII : 你肯启动一万初就有16g能玩，挂小模型玩玩agent挺 07/23 14:33
75F：→ ActionII : 不错的，还省电 07/23 14:33
76F：推 khoybgio : 99AMD，还有人在意他吗 07/23 14:37
77F：推 kducky : 天下苦黄久矣 07/23 15:00
78F：推 zonppp : 终究还是要用nvda 07/23 15:03
79F：推 jamesho8743 : 这只是让你能在MAC上开发CUDA相关的程式吧 07/23 15:19
80F：推 film12 : 消息无误！ 07/23 15:43
81F：推 jerry20151 : NV的护城河又加深啦 07/23 15:48
82F：推 jen1121 : 打不过就加入，苹果时代已过 07/23 16:16
83F：→ dreamnook2 : NVDA 喷 07/23 18:15
84F：推 Lipraxde : 所以市长承认自己的做不赢？没人要用？ 07/23 18:21