作者mooto (退出會比較好, 就退出)
看板Stock
標題Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
時間Mon May 29 23:49:51 2023
※ 引述《neone (neone)》之銘言：
: 剛看到半導體產業分析機構semianalysis的這篇新文章:
: https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is
: 雖然沒付費只能看到部分
: bing摘要:
: 這篇文章的核心內容是分析人工智能伺服器的成本。文章指出，隨著數據中心建設的瘋狂
: ，市場也隨之瘋狂。但是，有許多公司並不應該因此而受益。文章還提到，IT預算有限，
: 因此Nvidia銷售額的增長主要來自於購買較少的非GPU伺服器。文章中還提供了一個標準
: CPU伺服器的成本分解，顯示內存佔伺服器成本的近40%。文章最後指出，在人工智能時代
: ，普通伺服器的百分比將會下降，並且在數據中心轉向加速計算時，各組件的成本分配也
: 會發生重大變化。
老黃今天展示的那櫃 Grace Hooper
就用了144TB GPU Memory 透過NVLink共享
(NVLink是他們自研的SERDES
簡單來說就是PCIe更快的介面)
所以重點只是高速 共享
記憶體還是存在的
還有也不用擔心大家嫌貴不買啦
老黃今天不就列了1600家要做AI的公司
挖不挖得到金礦又不關他的事
只要鏟子賣得出去就好了
這種時候大家都爭搶先當第一個啦
有機會變成AI界的m$, adobe誰不幹
在那邊省小錢 到時候就看別人鼠錢
反正新創花的也不是自己錢
燒光當然是再繼續吹
話說老黃真的值得領那個錢
美國人訓練不是蓋的
相比之下今天下午發哥找他來蹭
那些高層講話的台風 投影片的格局 真的差好多喔
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.53.112 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1685375393.A.279.html
1F：推 stlinman : 老黃是創業家，以前可是要自己找風投搞錢的。 05/29 23:52
2F：推 Liberl : 應該是說 台灣的高管把自己定位在管理者 而不是業務 05/29 23:55
3F：→ WYchuang : Nvidia的Chiplet是不是拿MTK練經驗？ 05/29 23:55
4F：→ Liberl : 但整間公司最大最應該做業務的是高管 05/29 23:56
5F：→ Liberl : 我在某間大型上市公司(0050前半的)當CEO幕僚 05/29 23:56
6F：→ Liberl : CEO幾乎都在辦公室裡批公文 開會 很少出去拜訪 05/29 23:57
7F：→ Liberl : CEO不在公司裡 VP沒一個人敢做決定 05/29 23:58
8F：推 freeclouds : 因為有業務副總阿 嘻嘻 05/29 23:58
9F：→ freeclouds : CEO都是等別人來公司拜訪的啦 05/29 23:59
10F：→ Liberl : 這是台灣企業的陋習 越到高管越不接觸公司業務 05/29 23:59
11F：→ freeclouds : 有的公司的CEO 是熱愛批簽呈跟支出單 05/30 00:00
12F：→ freeclouds : 你以為5萬小錢頂多批到副總 結果竟然要到CEO 05/30 00:00
13F：推 goodjop : 大部分第一代CEO 都是業務起家 05/30 00:00
14F：推 Liberl : 張忠謀就說過CEO要是個生意人 05/30 00:01
15F：→ Liberl : 魏哲家很明顯被他訓練得還算不錯 05/30 00:01
16F：→ freeclouds : 家族企業第二代以後的CEO幾乎都是財會出身 真奇怪 05/30 00:01
17F：→ goodjop : 白手起家 不會業務 早就倒閉了 05/30 00:01
18F：→ goodjop : 因為都送歐美學財經管理 05/30 00:02
19F：→ goodjop : 我爸就是業務起家 但我沒接他的事業 我自己創業 05/30 00:03
20F：→ goodjop : 從技術專業 再轉業務 然後創業 05/30 00:03
21F：推 Shepherd1987: 庫克蘇媽發表會都很尬, 體制內的乖寶寶 05/30 00:03
22F：→ bobjohns : 台積電金融海嘯時，張忠謀還不是自己飛美國拉業務， 05/30 00:06
23F：→ bobjohns : 根本是台灣CEO實力太差，表達有問題才一直在管理。 05/30 00:06
24F：→ TaiwanUp : 我覺得跟Chairman互補就好 如果Founder都會 就隨便 05/30 00:07
25F：→ TaiwanUp : 學馬斯克 曾經考慮找BTS當推特CEO 05/30 00:07
26F：推 ck326 : 現在新創想搞錢沒有之前0利率時代容易ㄅ，呵呵 05/30 00:11
27F：→ TaiwanUp : 而且台積電的成功我不覺得是靠業務 純粹是算力需求 05/30 00:13
28F：→ TaiwanUp : 就如同張忠謀曾經驚嘆 礦卡怎麼會下那麼多單 05/30 00:14
29F：→ TaiwanUp : 這難道是他自己找來的客戶嗎 05/30 00:14
30F：推 ppuuppu : 老黃領袖特質明顯，台廠高管有幾個能這樣講話吸引 05/30 00:15
31F：→ ppuuppu : 人聽 05/30 00:15
32F：→ TaiwanUp : 蘇媽的背景和人格特質有自帶業務buff 還有obov力場 05/30 00:15
33F：噓 a000000000 : 蘇媽就很不會吹 就這點明顯輸給老黃 05/30 00:17
34F：→ a000000000 : 其他地方夠強惹 05/30 00:18
35F：推 ALAHAKBAR : 西方ceo光身材就屌打了... 05/30 00:21
36F：推 Argos : 業務型CEO是賈柏斯帶出來的風氣吧 05/30 00:22
37F：推 easyman : 平平都是講省電, 蘇嬤只會講比業界快20% 05/30 00:22
38F：→ easyman : 老黃就很會吹, 買越多賺越多 05/30 00:23
39F：推 dagehoya5566: 發弟高官格局根本笑話 05/30 00:24
40F：推 goodjop : K董的人格特質 就比其他哥哥好 05/30 00:24
41F：→ goodjop : 白手起家 又有技術 自然言之有物 業務不是問題 05/30 00:25
42F：推 b0117 : 蘇媽打工打的很不錯，感覺老黃是真的從自己的visio 05/30 00:32
43F：→ b0117 : n出發，drive整個公司的走向 05/30 00:32
44F：→ b0117 : 蘇媽是管理者，老黃是創業家，格局還是差蠻多的 05/30 00:33
45F：→ mooto : 雖然老黃是受邀來computex 但一場演講 只花一部分 05/30 00:34
46F：→ mooto : 捧自家產品 剩下的是用(潛在)客戶的產品展示 這我 05/30 00:35
47F：推 loveponpon : Morris不就說過 執行長要拉業務要會說 05/30 00:35
48F：→ mooto : 真的覺得很厲害 兩小時的show不會太無聊 05/30 00:35
49F：推 b0117 : 老黃還有一個最強的點，就是他用了很多台灣人 05/30 00:36
50F：→ loveponpon : 庫克的發表會 更尷尬哈哈哈 05/30 00:36
51F：→ b0117 : 這光研發成本就不知道省多少了 05/30 00:36
52F：→ b0117 : 不像牙膏一堆印度人佔據，靠嘴巴做事應該不少 05/30 00:38
53F：→ mooto : 台灣人好用R NV比起碼農還是比較血汗的 05/30 00:38
54F：噓 a000000000 : 老黃講那些東西gtc一值都這樣惹 05/30 00:40
55F：推 b0117 : 務實做研發，節省研發成本，根本神之正迴授 05/30 00:41
56F：推 neone : 老黃的人格魅力和演講技巧 真的CEO少有 05/30 00:42
57F：推 mamorui : 今天keynote還不錯 05/30 00:47
58F：推 Amulet1 : 亞洲都一樣 靠關係就能上去 05/30 00:56
59F：→ mooto : 沒有啦 豬屎屋還是很硬核的 台灣比較少在走雙軌制 05/30 01:00
60F：→ mooto : 多數主管還是技術職升上去的 這就會碰到彼得原理 05/30 01:01
61F：→ mooto : 說的問題 因為懂技術的人不見得擅長管理或業務 05/30 01:02
62F：推 linbryan : 台灣只有function manager. 沒有純manager.你知刺針 05/30 01:02
63F：→ linbryan : 飛彈.不是由工程師或戰鬥人員開發/想出來的.是由pro 05/30 01:02
64F：→ linbryan : ject manger開發/想出來的 05/30 01:02
65F：→ SILee : 蘇媽豈止不會吹而已，之前還曾經AMD內部all hand被 05/30 01:03
66F：→ SILee : 問問題問到自己惱羞失言搞到犯眾怒，幾個月後一堆工 05/30 01:03
67F：→ SILee : 程師跟著主管整組一起走人跳槽 ㄎㄎ 05/30 01:03
68F：噓 a000000000 : 蘇媽跟老黃出包史尼要去找都是一大串 05/30 01:04
69F：推 mynumber55 : 賈伯斯也弄出很多包啊，沒什麼 05/30 01:07
70F：推 wei9898 : 發哥的行銷能力跟高通比如何？ 05/30 01:10
71F：→ mooto : 發哥顯然不行阿 你看光是去年 對手都出包了 還是有 05/30 01:11
72F：推 kkkkk9 : ai+vr宏達電要飛了 05/30 01:12
73F：→ mooto : 一堆陸廠把它當小的 像發哥這樣的公司 或者說是台灣 05/30 01:12
74F：→ mooto : 公司 狼性都不夠 只能穩扎穩打直到對方覺得沒賺頭 05/30 01:13
75F：→ mooto : 自己退出 才拿的下市場 就勞碌命 05/30 01:13
※ 編輯: mooto (218.161.53.112 臺灣), 05/30/2023 01:14:37
76F：→ TaiwanUp : 其實改成英語系國家就會好很多 可惜這 05/30 01:20
77F：推 TaiwanUp : 同時要捨棄更多我們原本熟悉的事物 可能剩下麻花捲 05/30 01:24
78F：推 snd : 業務型CEO就是創業過來的人阿 05/30 01:41
79F：推 yoshilin : chatBot根本文創業 05/30 01:48
80F：推 Heedictator : 中文就是一坨大便 05/30 01:57
81F：推 kumabartho : 因為二代都是學商管啊 05/30 05:19
82F：→ Armag : 講的好像業務出身的就懂技術？我不是歧視文組，高 05/30 07:04
83F：→ Armag : 階主管的價值本來就必須跨足多領域，理工生跨業務 05/30 07:04
84F：→ Armag : 、財務比較簡單還是管理跨理工比較容易不用多說大 05/30 07:04
85F：→ Armag : 家自有一把尺衡量 05/30 07:04
86F：→ tctv2002 : 先有技術才有資格談業務好嗎 你什麼都不懂問題在哪 05/30 07:50
87F：→ tctv2002 : 憑什麼讓客戶相信你 05/30 07:50
88F：推 s800525 : INTEL G叔也是技術出身，還不是很嘴XD 05/30 08:20
89F：→ s800525 : 科技業技術就是底，就連庫克也是工業工程出身的 05/30 08:22
90F：→ faniour : 庫克（冷笑 05/30 08:22
91F：→ CORYCHAN : 老黃是創辦人 05/30 08:44
92F：推 zhi5566 : i社也很會吹啊 吹到把股東套死死 嘻嘻 05/30 09:21
93F：推 Mtcat : 11 05/30 09:26
94F：→ Severine : Pat:Intel 4要出啦!要上車的趕快上阿 05/30 09:51
95F：推 aegis43210 : Q4再上車，現在能買的公司漲完才會輪到i皇 05/30 10:11