作者jeff0025 (无法显示人物名称)
看板Tech_Job
标题[新闻] 苹果技术文件揭密:AI模型以Google客制晶片训练
时间Tue Jul 30 07:50:46 2024
苹果技术文件揭密:AI模型以Google客制晶片训练
MoneyDJ新闻 2024-07-30 08:23:15 记者 郭妍希 报导
苹果(Apple Inc.)透露,两款支持「Apple Intelligence」的AI模型,都是以Google设计
的客制化「张量处理单元」(TPU)在云端进行训练。
CNBC报导,苹果周一(7月29日)释出的技术文件显示,苹果基础模型(Apple Foundation
Model, AFM)及AFM伺服器都是以「v4和v5p云端TPU丛集」、运用苹果软体进行初步训练。
这代表苹果向一家云端商租下伺服器来执行运算。苹果在文件中表示,「该系统让我们得
以有效扩大训练AFM模型(当中包括AFM终端装置、AFM伺服器),以及规模更大的模型。」
苹果文件中显示,AFM终端装置是以2048颗TPU v5p组成的单一切片(slice)进行训练。v5p
是最先进的TPU,首度於2023年12月发布。AFM伺服器则是以8192颗TPU v4晶片组成的八个
切片训练。
根据Google官网,旗下最先进TPU若提前三年预定,则每使用一小时的成本不到2美元。
Google是在2015年首次发布TPU、供内部作业使用,2017年才对外推出。TPU如今是最成熟
的AI客制化晶片之一。
不过,
Google仍是辉达(Nvidia Corp.)首要客户之一,不但同时运用辉达GPU及自家TPU训
练AI系统,也在自家云端平台贩售使用辉达科技的服务。
苹果先前曾说,AI推论任务有部分会在使用苹果自家晶片的自有资料中心执行。
根据之前的媒体报导,参与苹果伺服器专案「Project ACDC (即Apple Chips in Data
Center、苹果资料中心晶片)」的人士强调,自家伺服器处理器的内部元件仍可扞卫用户
隐私。苹果处理器的「安全隔离区」(Secure Enclave)技术,可避免资料外泄。目前苹果
计画以自家的资料中心执行云端功能,但最终仍会仰赖外部设施,如同iCloud等服务。
Meta执行长祖克柏(Mark Zuckerberg)最近接受彭博社记者Emily Chang主持的podcast节
目访问时透露,虽然业界也许对AI基础建设投资过度,但假使进度落後,则未来10~15年
将无法在这个最重要的科技市场占有一席之地。
https://pse.is/69xdjm
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 61.218.53.138 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1722297049.A.BAA.html
1F:→ peter98 : 那就是有了 07/30 07:53
2F:推 DivineSX : Google母公司甲骨文? 07/30 07:55
3F:→ zaiter : 那苹果就等死了 手机已经烂到不行技术都偷安卓 vis 07/30 08:03
4F:→ zaiter : ion pro没人买 只能靠信仰假环保真敛财了 07/30 08:03
5F:→ john65240 : 支持G哪来的客制化晶片 07/30 08:09
6F:→ john65240 : Colab都还是用nv的 07/30 08:10
7F:推 ReverieKai : Google有TPU,但它不是像NV那种通用计算卡 07/30 08:18
8F:嘘 abyssa1 : 这记者的逻辑无法理解 07/30 08:23
9F:→ abyssa1 : 我说我早餐喝咖啡 代表我没有吃任何面包? 07/30 08:24
10F:推 aaa40303 : 苹果近几年的策略有哪个是正确的 07/30 08:26
11F:推 antis : 可怜的频果,正在加速殒落 07/30 08:37
12F:推 Prado4840 : TPU至少供货顺畅? 07/30 08:44
13F:推 bluezero000 : 选边站? 07/30 08:48
14F:→ tactics2100 : 代表时间够的话 不用最新的晶片 也能训练出堪用的模 07/30 08:49
15F:→ tactics2100 : 型 变成cp值优先 07/30 08:49
16F:推 blanka : 苹果自己可以不用CUDA 其他人不行啊 感觉不太能比较 07/30 08:50
17F:推 chrischiu : AI终端设备能做什麽?现在顶多AI相机而已 07/30 08:51
18F:推 small314 : 怕爆 07/30 08:54
19F:嘘 ayianayian : 你迟早要用辉达的 07/30 08:56
※ 编辑: jeff0025 (61.218.53.138 台湾), 07/30/2024 09:07:12
20F:推 Max112358 : colab也能用tpu啊 。。。 07/30 09:39
21F:推 lantimes : 支持 07/30 10:09
22F:推 roccqqck : 训练model跟run model 其实是两回事 07/30 10:28
23F:推 roccqqck : 这篇可能代表苹果自己的ai晶片只能run model 07/30 10:38
24F:→ roccqqck : 但是开发train model还是用tpu 07/30 10:38
25F:→ ghchen1978 : 做出AI肝GG股票又要涨了 07/30 10:50
26F:→ bnn : 没事啦 苹果本来也是绑架用户的平台商 又不靠自己 07/30 10:53
27F:推 kingofage111: 果粉的信仰还是能让apple再赚20年的啦 07/30 11:36
28F:推 mrsix : 人家中国手机都不需要这些训练就可以达成AI,感觉 07/30 12:36
29F:→ mrsix : 苹果会是下一个NOKIA。 07/30 12:36
30F:推 douge : 要付钱给google 才能一边听音乐一边看网页的果迷 07/30 13:10
31F:→ douge : 本来就不太需要管他们的感受 07/30 13:10
32F:推 chrischiu : ai跟5g就是相冲突,比如说离线翻译,只有在出国下飞 07/30 13:38
33F:→ chrischiu : 机当地sim卡买到前有用 07/30 13:38
34F:→ chrischiu : 之前mtk推这个功能,我就问你到底要卖5g还是ai? 07/30 13:40
35F:→ NexusPrime : 还租Google的? 那算力被别人掌握 07/30 15:16
36F:推 kingofage111: Apple出一只烂表,一堆功能都要收费,果粉还不是爽 07/31 09:43
37F:→ kingofage111: 爽买单 07/31 09:43
38F:推 lalacoa : 苹果的AI只在苹果的设备上运行,因此训练范围可以 08/02 13:04
39F:→ lalacoa : 限缩,封闭式系统又再次赢 08/02 13:04