作者ynlin1996 (.)
看板Stock
標題[新聞] AI晶片競爭開跑，谷歌公布第四代TPU，宣
時間Fri Apr 7 09:44:45 2023
原文標題：
AI晶片競爭開跑，谷歌公布第四代TPU，宣稱比輝達A100晶片更快更節能
原文連結：
https://bit.ly/3meYAG8
發布時間：
2023.4.6
記者署名：
茋郁
原文內容：
谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節，稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片，但谷歌設計自己客製化晶片Tensor Processing Unit（TPU）期望能夠推動其在AI研究。
谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片，當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入，幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力，可是歷經幾年之後，谷歌將TPU延伸至更多領域，可見得其開發方面取得了長足的進步。
如今谷歌90%以上的AI訓練工作都使用這些晶片，即通過模型提供數據的過程，使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。
谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於，谷歌使用AI來設計其TPU晶片。谷歌聲稱，與人類花費數月時間設計晶片相比，使用AI設計晶片僅需要6小時即可完成設計過程。
一旦採用AI設計晶片，產品迭代都在迅速發生，這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展，將造成大型語言模型的規模呈現爆炸式成長，這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦，以幫助連接各個機器。此外，微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。
谷歌指出，PaLM模型——其迄今為止最大的公開披露的語言模型——通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是，其超級電腦可以輕鬆地動態重新配置晶片之間的連接，有助於避免出現問題並進行調整以提高性能。
谷歌除了自己使用TPU之外，一家新創公司Midjourney使用該系統訓練其模型，該模型在輸入幾句文字後即可生成新影像。
可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU，它將與輝達H100展開競爭。
總之，隨著生成式AI的崛起，AI晶片的開發腳步將成為下一個廠商積極介入的領域，以搶奪未來商機。
心得/評論：
Google公布第四代TPU，並宣稱比NVIDIA A100更快更節能，其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.40.35 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1680831887.A.ACB.html
1F：推 EKman : 你有停下來等馬斯克嗎 04/07 09:49
2F：推 zeristso : AI自己設計晶片給自己用嗎？ 04/07 09:51
3F：推 ferrisw : 馬投顧：等等我，剛把小鳥變狗頭 04/07 09:51
4F：推 fujioqq : 魔鬼終結者現正熱映中 04/07 09:52
6F：→ denal : 可是Tensor得到垃圾級的評價 04/07 09:56
7F：推 lc85301 : 晚了，我們不要了 04/07 09:58
8F：→ Riyar : 馬斯克還在玩鳥跟狗 可憐啊 04/07 09:59
9F：推 kanx : google TPU 又不拿出來賣 發表有啥鳥用 04/07 09:59
10F：噓 a000000000 : 人類還剩幾集可以桃 04/07 10:01
11F：→ appledick : google是不是怕了，一直發這種新聞出來，很明顯就是 04/07 10:08
12F：→ appledick : 被海放了 04/07 10:08
13F：推 HinaGikuYanG: google是在追，被海放到不見的是蘋果 04/07 10:13
14F：推 thbygn98 : 天網會用誰家的晶片 04/07 10:14
15F：推 aegis43210 : 天網當然是用X86 04/07 10:17
16F：推 aegis43210 : X86陣營一直在研發更適合的特殊指令集，TPU如果只能 04/07 10:20
17F：→ aegis43210 : 訓練小模型，那很快就會被超越 04/07 10:20
18F：→ ck326 : 可是天蛇很會熱耶，這顆真的可以涼嗎??? 04/07 10:21
19F：推 kis28519 : 蘋果繼續廢，賈伯斯還在該有多好 04/07 10:23
20F：推 aegis43210 : 超級電腦可以用浸沒式散熱，甚至把主機放到深海之中 04/07 10:24
21F：→ aegis43210 : ，倒不是什麼問題 04/07 10:24
22F：推 qaz19wsx96 : 連設計晶片都Ai 未來人類真的需要工作嗎 04/07 10:25
23F：推 turtle66 : a100不是上一代 不跟h100比？ 04/07 10:30
24F：噓 neowfish : 整天投片三星 是要怎麼贏 笑死人的GOOGLE 04/07 10:33
25F：→ Mimmature : 你要不要看看你的自然語言定價多貴？ 04/07 10:34
26F：→ Mimmature : 同樣的價格 openai 可以跑3000萬筆 04/07 10:34
27F：→ Mimmature : Google 自然語言只能跑不到一萬筆 04/07 10:34
28F：噓 chienk : 肯定只能做特定用途。GPU是通用 04/07 10:35
29F：推 by19 : 沒用 還是直接買Nvda 04/07 10:37
30F：→ hbj1941 : 我信你個鬼，當nv吃素的喔 04/07 10:43
31F：推 onewaylun : 被H100打爆了 04/07 10:44
32F：噓 jamesho8743 : 跟A100比? 怎不是幹掉H100? 04/07 11:03
33F：推 stlinman : 先說是不是三星工藝? 04/07 11:09
34F：→ samm3320 : 他又不是拿來賣製程爛一點總體成本更低就好了吧 04/07 11:13
35F：推 DB2 : TPU v4 2021年中就推出了，本來就不是和H100比… 04/07 11:22
36F：推 qa1122z : 還沒到T800，你各位還有時間，塊陶啊啊啊啊 04/07 11:51
37F：推 Severine : 印度CEO你信嗎 04/07 12:08
38F：推 somefatguy : 自己設計訓練自己 真的覺醒了 04/07 12:13
39F：推 cccc1730 : 啊就三星啊 04/07 12:17
40F：推 puam4444 : 你用三星，難怪你會輸 04/07 12:21
41F：噓 jamesho8743 : 2021年中就推出 2023現在公布? 04/07 12:36
42F：推 DB2 : 現在比’系統’，不是單純比晶片 04/07 12:40
43F：→ tamynumber1 : 大你1000倍！ 04/07 12:53
44F：推 rosenzulu : 看股版唱衰成這樣 真的想買了 04/07 12:57
45F：推 labdog : 笑死，蘋果市值可以把Google買下來 04/07 13:12
46F：→ kevin31a2 : 在說啥呢？晶片菜雞 04/07 13:15
47F：→ samm3320 : 蘋果市值2.6t alphabet 1.4t 要怎麼買？ 04/07 13:17
48F：推 shinyi444 : 還有兩家要出勒 04/07 13:18
49F：推 aimlin : chatgpt:谷歌已經到極限，我們還沒開始 04/07 13:28
50F：推 aimlin : ai終究被軟軟獨大 04/07 13:30
51F：推 acininder : 不用在那邊想買 要買的就買不用牽拖 04/07 13:34
52F：→ allyourshit : 三星做的CHIP就是爛 04/07 14:24
53F：→ ocis : 等APPLE自製AI晶片再跟我說 04/07 14:27
54F：→ orz811017 : 投三星都能贏的話 那很強啊 04/07 14:43
55F：推 ganbee : 三星代工沒救。 04/07 20:06