作者LDPC (Channel Coding)
看板Stock
標題Re: [新聞] 輝達將成AI大贏家！Google前執行長驚爆：
時間Fri Aug 16 15:19:05 2024
QQ 那老兄講了一堆重要東西
https://www.youtube.com/watch?v=QmbO_EA82Qg
1. Large Context Window (e.g.,狗家1M Token Length)->記憶體需求
2. agents (LLM agents/LLM 機器人)
3. text-to-action (應該指的是LLM OS)
全文稿 快備份 有股點
https://reurl.cc/5d52oz
這也是為啥買NV/買HBM/Cowos/TSMC 然後 沒錢了 ...QnQ 救我
看樣子兩天前有全部影片 現在被Stanford改成private了
順帶一提 以前我認為資料隱私性必須透過on-device AI發展 但是果家私有雲一搞後
很明顯以後私有雲+on-device AI才是未來 然後NV會大賺 QnQ
※ 引述《capssan (Miracle)》之銘言：
: ※ 引述《dosiris (希望大家開心)》之銘言：
: : 原文標題：
: : 輝達將成AI大贏家！Google前執行長驚爆：逾9兆資金流入
: : 原文連結：
: : https://news.tvbs.com.tw/life/2586905
: : 發布時間：
: : 2024/08/16 11:04
: 這個片段其實有趣的
: Eric Schmidt去史丹佛的學院開講，他本來以為是閉門會議，講超多幹的
: 結束前才說這些要保密不能講出去
: 結果工作人員才跟他說這場有直播..當場臉都綠了
: 原始影片雖然下架了但很多內容其實都被拿來討論
: 像是嘴美國大公司一堆米蟲比不上台積電這個我記得有小炎上
: 以下是在X上其他人做的節錄
: -------------------------------------------------------------------------
: 現在的谷歌為什麼在AI領域輸得一塌糊塗？因為谷歌覺得讓員工儘早回家和平衡工作比贏
: 得競爭更加重要。如果你的員工每個星期只來公司上一天班，你怎麼可能比得過OpenAI或
: 是Anthropic？
: 看看馬斯克，看看台積電，這些公司之所以成功，就是因為能夠卷員工，你必須要把員工
: 逼得夠緊才能獲勝，台積電會讓物理學博士第一年下工廠幹活，你們能想像美國的博士生
: 去流水線嗎？
: 自己犯過很多錯誤，比如曾經覺得英偉達的CUDA是很蠢的編程語言，但現在CUDA是英偉達
: 最牛逼的護城河，所有的大模型都要在CUDA上運行，而只有英偉達的GPU支持CUDA，這是
: 其他芯片撼動不了的組合。
: 還有微軟跟OpenAI合作時自己也覺得難以置信，微軟怎麼能把最重要的AI業務外包給那種
: 小公司啊，結果再次看走了眼，再瞧瞧蘋果在AI上的溫吞，大公司真的都官僚化了，奮鬥
: 逼都在創業。
: TikTok給美國人上了一課，在座各位年輕人以後如果創業，能偷音樂什麼的就趕緊去做—
: —似乎是在黑TikTok早期縱容盜版BMG——如果你做成了，就有錢僱用最頂級的律師幫你
: 擦屁股，如果你沒做成，那就沒人會起訴你。
: OpenAI的星際之門在宣傳時說需要1000億美金，實際上可能3000億都打不住，能源缺口太
: 大了，給白宮提過建議，美國以後要麼跟加拿大打好關係，水電資源豐富，勞動力便宜，
: 而且夠近，要麼去和阿拉伯國家套近乎，讓他們來做主權投資。
: 歐洲已經沒戲了，布魯塞爾（歐盟總部所在地）一直都在摧毀科技創新的機會，可能法國
: 還有點希望，德國不行，其他歐洲國家就更不用提了，印度是美國盟友裡最重要的搖擺州
: ，以及美國已經失去了中國。
: 開源很好，谷歌歷史上的大部分基礎設施也都受益於開源，但是說實話，AI行業的成本太
: 高了，開源負擔不起，自己投資的法國大模型Mistral將會轉為閉源路線了，不是所有公
: 司都願意且有能力像Meta一樣當冤大頭。
: AI會讓富者愈富、窮人恆窮，國家也是，這是一場強國之間的遊戲，沒有技術資源的國家
: 需要拿到加入強國供應鏈的門票，否則也將錯過盛宴。
: AI芯片屬於高端製造業，產值很高，但不太可能拉動就業，你們可能沒幾個人去過芯片製
: 造廠，裡面全是機械化生產，不需要人，人又笨又髒，所以不要指望製造業復興，蘋果把
: MacBook的產線遷回德州不是因為德州工資低，因為根本不用再大規模雇人了。
: 歷史上，電力在引入工廠之後並不比蒸汽機創造了更多的生產力，是過了大概30年左右，
: 分佈式電源改造了車間佈局，推動組裝系統的出現，再才開始了生產力的飛躍。現在的AI
: 和當初的電力一樣，有價值，但還需要組織創新，才能真正拿到巨大的回報，目前大家都
: 還只是在摘取「低垂的果實」。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1723792746.A.383.html
1F：推 CMPunk : 講太多大實話得快點設成private 08/16 15:19
※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:21:00
※ 編輯: LDPC (24.4.211.194 美國), 08/16/2024 15:23:03
2F：推 pponywong : on device 就賭看看 ARM/AMD 吧 08/16 15:25
3F：推 findwind0826: AI看起來是真玩意兒 但LLM是不是真的解就有待觀察 08/16 15:25
4F：→ findwind0826: 但只要主流還是LLM 那NV的GPU就不會有問題 08/16 15:25
5F：推 metallolly : 已經沒有特價了喔^_^ 08/16 15:26
6F：→ findwind0826: LLM模型越就越精準 需要的GPU就越多越強=老黃發財 08/16 15:26
7F：推 xephon : 主要問題還是能不能變現，不然最後變科研項目 08/16 15:27
8F：推 w60904max : 主流算法定期換 NV更吃香吧 畢竟通用 08/16 15:28
9F：推 mangle : 現在卡在商業化不明朗吧 08/16 15:28
10F：推 findwind0826: 怎麼可能沒辦法變現… 唯一問題是LLM是不是正確道 08/16 15:28
11F：→ findwind0826: 路而已 08/16 15:28
12F：推 andy810306 : 你買十億的豪宅5億賣也是變現，懂嗎？ 08/16 15:29
13F：→ andy810306 : 要說的應該是有沒有辦法撐起獲利 08/16 15:30
14F：→ andy810306 : HTC虧錢做也是一直有營收變現不是 08/16 15:30
15F：→ andy810306 : 正確是一定不正確，不過大多數人工作也沒保證正確 08/16 15:31
16F：→ andy810306 : 就是個玩具，取代先進國家沒技術性的高薪工人而已 08/16 15:32
17F：→ dosiris : 已下載 08/16 15:32
18F：→ findwind0826: 恩 玩具 好喔 不予置評 08/16 15:32
19F：推 CGDGAD : 已收，謝謝大大無私分享 08/16 15:32
20F：→ andy810306 : 如果你的工作無法結合創造力跟技術性就是被取代 08/16 15:33
21F：推 SSglamr : 老黃救我~ 攤到沒錢了 08/16 15:33
22F：推 Lowpapa : 一生平安 08/16 15:36
23F：推 Brioni : AI創造的生產力可能過剩，過度生產但消費力沒起來會 08/16 15:36
24F：→ Brioni : 怎樣呢？看看中國 08/16 15:36
25F：推 leoislucky : bilibili有完整影片可以看 08/16 15:37
26F：推 shawn0205 : 他也說了AI很燒錢 目前都是低垂的果實 08/16 15:37
27F：→ shawn0205 : 舉了電力當例子 30年才開始發展 08/16 15:37
28F：→ Brioni : 現在就是一直大筆資金投入算力怕落後，至於終端怎麼 08/16 15:38
29F：→ Brioni : 回收？那是以後的事情，但投資人已經注意到這一塊了 08/16 15:38
30F：推 newyorker54 : 我跟你想法一樣，發展在地私用伺服器才是真的輝達大 08/16 15:38
31F：→ shawn0205 : 每個人都只看到自己想看的 08/16 15:38
32F：→ newyorker54 : 爆發的成長 08/16 15:38
33F：推 findwind0826: 燒錢的原因不就是因為NV毛利太高嗎？ 08/16 15:38
34F：→ findwind0826: 反過來說股點 NV不就贏定 台積一定贏定 08/16 15:38
35F：→ shawn0205 : 短線就是過熱+燒錢 等泡沫破了 08/16 15:39
36F：推 tsubasawolfy: low hanging fruit意思是目前這些AI產出都是小兒科 08/16 15:39
37F：→ newyorker54 : 現在的成本太高算力不足以讓每個公司自己架一台伺服 08/16 15:39
38F：→ newyorker54 : 器 08/16 15:39
39F：→ tsubasawolfy: 不用花太多心力鑽研 但真正大利益是在更上層要花心 08/16 15:39
40F：→ shawn0205 : 那些高垂的果實 還在很未來 08/16 15:39
41F：→ tsubasawolfy: 思跟$$$去拿到 08/16 15:39
42F：→ Brioni : 這也是失業率很重要的原因，不然大家都沒錢去蹲家要 08/16 15:39
43F：→ Brioni : 怎麼撐起兆元美金的產業 08/16 15:39
44F：推 andy810306 : 現在連CPU都跟雲端廠商租了，AI更不可能自己買晶片 08/16 15:40
45F：→ Brioni : 泡沫破裂後還是會有真強者存活，像谷歌在網路泡沫破 08/16 15:41
46F：→ Brioni : 滅後發光那樣 08/16 15:41
47F：→ andy810306 : 而且雲端租CPU是真的有獲利，小公司做AI哪可能賺錢 08/16 15:41
48F：推 dosiris : 不過教學還是自己買比較方便 08/16 15:41
49F：→ newyorker54 : 大爆發還要看未來五年，如果單機可以跑405B的AI才是 08/16 15:41
50F：→ newyorker54 : 真的落入民間的實用階段，像現在的個人電腦 08/16 15:41
51F：推 Exusiai : 看來還有Arm 08/16 15:41
52F：推 guk : 大家真的很強 08/16 15:41
53F：→ Brioni : NV類似當年思科，鏟子熱 08/16 15:42
54F：→ andy810306 : 頂多幾家AI新創騙投資人的錢收割一波閃人 08/16 15:42
55F：→ dosiris : 燒錢(X) 錢求你燒(O) 08/16 15:42
56F：推 strlen : 我們來下載拉馬3用ptt文訓練 變成不能變現GPT好惹 08/16 15:42
57F：推 findwind0826: 小公司幹嘛開發AI 用大公司train好的model就好 再 08/16 15:42
58F：→ findwind0826: 租算力 這成本就算是現在也不是負擔不起 08/16 15:42
59F：→ strlen : 問他什麼問題 他講沒幾個字就嗆你 這能變現嗎？ 08/16 15:43
60F：推 JWJerryyy : 感謝大大分享 08/16 15:43
61F：推 metallolly : 創意應該才是未來要培養方向~QQ 08/16 15:43
62F：→ bnn : 就 大公司train好的model給小公司應用場景 不好用 08/16 15:44
63F：推 littenVenus : 老黃：窩484快成佛惹^O^ 08/16 15:44
64F：→ metallolly : 沒有創意至少買個TSM跟NVDA~保平安一下 08/16 15:45
65F：→ dong80 : 未來發電廠也是重要的資源了 08/16 15:45
66F：推 joygo : 做ai朋友說，現在上限就卡在，記憶體，電，電是卡 08/16 15:46
67F：→ joygo : 在環保，所以我幾乎都在找能源的，美國其實不少新 08/16 15:46
68F：→ joygo : 能源，但是能不能做到又是一回事 08/16 15:46
69F：推 dosiris : 在華人社會 創意很難培養 先給學生工具讓他們敢亂想 08/16 15:47
70F：推 sdbb : Nv好像有教鏟子怎麼用開發鏟子用途 08/16 15:47
71F：→ sdbb : 鏟子挖土種玉蘭花給__蛙賣 08/16 15:48
72F：→ bnn : 能源主要卡在法規特許權那些問題很大 要內線 08/16 15:48
73F：推 sunday0913 : 重點是短期內沒人不敢不玩AI 鏟子買起來就對了 終 08/16 15:48
74F：→ sunday0913 : 端應用獲利是未來的事 08/16 15:48
75F：推 findwind0826: NIM啊 雖然我還沒看到NIM具體怎麼用 08/16 15:49
76F：推 littlejackbr: 空蛙的未來就是死路一條 08/16 15:50
77F：推 findwind0826: 這版一堆矽谷的大大 不知道有沒有人能介紹 08/16 15:50
78F：推 littenVenus : L大以後會變大富翁 和教主一樣 08/16 15:50
79F：→ littenVenus : 美國公用事業類股的幾家電力公司今年股價也噴噴 08/16 15:51
80F：推 TameFoxx : 所以啦 為啥輝達會被禁賣中國 08/16 15:55
81F：→ TameFoxx : 連台GG代工也都是被管制的 08/16 15:56
82F：→ TameFoxx : HBM也被管制 08/16 15:56
83F：推 josephpu : 華爾街從來就不認為AI能在短期內商業化盈利，一個 08/16 15:59
84F：→ josephpu : 才剛起步的行業怎可能馬上開始獲利。只有散戶緊張 08/16 15:59
85F：→ josephpu : 兮兮，純粹是股價炒高了要修正而已 08/16 15:59
86F：推 pieceioriX : 能源就等核融合啊 不過盒飯大概不懂這啥 08/16 16:00
87F：推 aresa : 老實說你看輝達怎麼做的就可以猜到商業模式了，輝達 08/16 16:01
88F：→ aresa : 之前想買ARM，明顯就是想把大模型跟soc搞在一起 08/16 16:01
89F：推 junior020486: 真的能大營利，老黃又要拆股一次 08/16 16:01
90F：→ junior020486: 老黃：豪爽，一直拆股 08/16 16:02
91F：推 goodjop : LD大 我解套 開始賺錢囉~ 08/16 16:12
92F：推 bloodashih : 喔喔喔 08/16 16:14
93F：推 vendan5566 : 有懶人包嗎 我懶QQ 08/16 16:15
94F：推 ezreal1315 : 記憶體後面真的要發酵了 存儲絕對不夠 08/16 16:18
95F：推 wsii20 : 記憶體是美光 三星 海力士嗎 08/16 16:20
96F：推 dosiris : 這位老兄的號召力 不容小覷 08/16 16:21
97F：推 TameFoxx : 記憶體現在是處於研發競賽吧 08/16 16:25
98F：推 HiHiCano : 結果NV盤前沒任何反應 小道消息聽聽就好 08/16 16:34
99F：推 findwind0826: 不用太高估華西街 他們在金融方面的消息很強 08/16 16:41
100F：→ findwind0826: 但科技業的技術發展他們不一定懂 08/16 16:41
101F：推 ksjeff0928 : 1200股NVDL...成本71....99nvdl~QQ 08/16 16:49
102F：推 andy810306 : 是啊，還是ptt法人最懂AI，準備套著當傳家寶 08/16 16:49
103F：→ Chilloutt : 未來生產力：顧機台、生物電池、炒股 08/16 16:49
104F：推 ru04hj4 : NVDA+TSM 捏爆 08/16 17:20
105F：噓 justin200428: 你們知道Ai晶片可以預測飛彈路徑嗎？ 天弓系統裝一 08/16 17:26
106F：→ justin200428: 堆 08/16 17:26
107F：→ justin200428: 4k 顯微手術有時間差也是Ai預判 08/16 17:27
108F：噓 hihowareyou : 早就進了，魚頭好吃 08/16 17:32
109F：推 lin8807819 : 現在才開始 08/16 18:20
110F：→ findwind0826: 如果你覺得AI沒有用 那表示你的工作快要沒用了 08/16 19:05
111F：推 piece1 : 有錢人通常不是懂的人！自己要斟酌 08/16 19:28
112F：推 loveponpon : nV去年漲10倍 今年呢？會繼續該有多好 08/16 19:33
113F：推 AirLee : 應用會在新技術泡沫後大量出現 08/16 20:04
114F：→ aqwa : 美光跌的狗吃＊ 08/16 20:35
115F：→ lantimes : 谷歌有htc團隊 走著瞧 08/16 20:48
116F：噓 iamjamie129 : 雲端就很難稱得上private ，你信雲端業者？ 08/16 21:04
117F：推 chysh : 看完覺得印特爾死定了... 來加碼AMD和Qcom 08/16 22:10
118F：推 Heedictator : 晚點來讀 08/16 22:13
119F：→ frank01 : Nuscale power 賭下去,賭對了,直接退休。 08/17 06:40
120F：→ frank01 : 不過也別太信,他可以看錯二次,不會看錯第三次(AI)? 08/17 06:43
121F：→ OFETMAN : 上面例子只能說是先進技術 不是需要運算就叫AI 08/17 10:02
122F：推 CalvinBryant: 這種東西就是注定公有雲，怎麼一堆人還在幻想地端思 08/17 12:33
123F：→ CalvinBryant: 維？還會問公有雲安不安全，真的笑歪 08/17 12:33
124F：→ LDPC : 笑死 公有私有雲和 legal審核都不清楚 08/17 12:57
125F：→ LDPC : aws 公有雲infra支援爛 legal還不能保證train私密 08/17 12:59
126F：→ LDPC : 資料不洩漏 08/17 12:59
127F：→ LDPC : 狗家公有雲之前還把加拿大資料誤刪 08/17 13:00
128F：→ LDPC : 果家的私有雲是閉環系統 08/17 13:01
129F：→ LDPC : ai三大項 資料最重要 果家有icloud自家隱私系統 08/17 13:02
130F：→ LDPC : 你搜aws data leak 2022就有案例 08/17 13:04
131F：→ LDPC : 所以一種走向是企業自己打造閉鎖cloud 有自己infra 08/17 13:06
132F：→ LDPC : team 08/17 13:06
134F：→ LDPC : 資料外流 08/17 13:10
135F：推 mdkn35 : 沒人想用之不精準的東西 炒炒股票可以 居高思危 08/17 13:30
136F：推 sean667cd : L大神有研究近期avgo，coreweave 近有兩個月發展嗎 08/17 15:13
137F：→ sean667cd : ，感覺沒什麼特別大事.. 08/17 15:13
138F：推 CalvinBryant: 笑了，資料會被公有雲拿去訓練，你怎麼不看看M社條 08/17 20:55
139F：→ CalvinBryant: 文怎寫的？私有雲打造AI我只是笑笑，大廠花了幾百億 08/17 20:55
140F：→ CalvinBryant: 美金的錢在訓練AI，私人企業想搞？根本就是把錢丟進 08/17 20:55
141F：→ CalvinBryant: 水裡 08/17 20:55