作者LDPC (Channel Coding)
看板Stock
標題Re: [請益] 這波AI產業是牛市最久的一次嗎
時間Mon Oct 21 01:58:00 2024
https://reurl.cc/WNmR8D 問阿祖啊 這是網路上在傳的
底下有個衛星空照圖
https://ibb.co/y4Ww9s6
2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把
蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力
現在就是裁員裁員裁員 瘋狂蓋AI基礎建設
除了硬體外還有 軟體backend升級 你去看現在一堆開缺都是AI Infra Backend缺
裡面要求就是會寫Triton這種
https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD
這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra
重新設計 整個AI在Infra的速度會更有效率 更節省電力 這也是為啥大家都說
誒 為啥AI還不能落地賣錢 就是AI大基建需要兩年 之後才會有軟體服務
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
http://www.mfbz.cn/a/342750.html
AI基建就是新的AI數據中心 電力優化 以及軟體Backend Kernel重新設計
一堆人已經開始在學軟體上後端開發的技能包 以延續職業生涯
比方說這是蘇媽的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黃triton
https://aijishu.com/a/1060000000362271
摘錄裡面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，
其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话
转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、
听力障碍者，或者异国与会者特别有用
底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语 、姓名和其他会议背景，提高字幕的准确性。
微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”
为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------
這是史上最大一次的基礎建設升級 軟體硬體都是 以往就業技能樹沒辦法升級成以後
未來技能架構 就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/
現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/
所以怎會拿這波跟啥元宇宙比 元宇宙連基礎建設邊都沒摸到 這真的是...QQ
※ 引述《torrest (torrest)》之銘言：
: 如題
: 差不多從前年底就開始發酵
: 到現在也差不多兩年了
: 目前看起來還是要再繼續創新高
: 記得從2016開始紅過的
: 光學 被動 pcb 航海王 元宇宙 有的沒的
: 持續時間了不起就是半年一年結束
: 目前為止ai好像還看不到盡頭
: 這波是最長的一次嗎
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1729447090.A.B30.html
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 02:01:57
1F：推 waitrop : 我每天摸GPU Kernel,也是很難找工作,準備當人肉電池 10/21 02:00
2F：→ waitrop : 現在只有做AI算法跟模型的人,才有身價 10/21 02:01
3F：推 Chilloutt : 肥宅的價值要浮現惹 10/21 02:02
4F：推 a0808996 : LDPC大 又要數錢了\@n@/ 準備偷渡去加州找你要飯 10/21 02:03
5F：→ LDPC : =_= a08我要去龍山寺找你了 被套牢了..\@n@/ 10/21 02:04
6F：推 sdbb : 99nvdl GOOG meta mu avgo 10/21 02:08
7F：推 cookie1216 : 只能抱緊鏟子股了XD 10/21 02:08
8F：→ sdbb : 難找工作(X)太多挖角(O) 10/21 02:10
9F：推 karta018 : 希望阿祖蓋快一點，這樣他快蓋好的時候新技術又問世 10/21 02:12
10F：→ karta018 : ，他又要重蓋了 10/21 02:12
11F：→ sdbb : 看捷安特轉型成能源股 10/21 02:12
12F：推 crossworld : 笑死 看起來跟哏圖迷因一樣 10/21 02:18
14F：推 meRscliche : wow 10/21 02:24
15F：推 qweaaazzz : 推 10/21 02:30
16F：推 qwe78971 : 大基建兩年太樂觀 10/21 03:02
17F：推 bd535853 : 請問一般的網頁後端現在學什麼活得下去QAQ 10/21 03:03
18F：→ galoopboy : 樓上：AI 10/21 04:12
19F：推 four5 : 兩年後的老黃：大基建現在才剛剛開始 10/21 04:13
20F：推 beagle2001: 再睡兩年就要準備賣了 10/21 04:33
21F：推 ejnfu: ML infra / distributed storage or processing 應該活的 10/21 05:21
22F：→ ejnfu: 下去 10/21 05:21
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 06:07:47
23F：推 lyh0305 : 推 10/21 06:29
24F：推 brovet : 每天寫前端加api的感到難受 10/21 06:32
25F：推 donkilu : 推L大 10/21 07:17
26F：推 ppuuppu : 沒有參與到蘋果時代的我，這次絕對要參與輝達時代G 10/21 07:48
27F：→ ppuuppu : OGO老黃 10/21 07:48
28F：推 metallolly : 完了 現在要學什麼 ？我怕連電池都沒辦法當 10/21 07:53
29F：→ hugh509 : 放棄掙扎吧，學股票就贏過9成了，人類終究是當柴燒 10/21 07:55
30F：推 ggsuperda : 只會C語言484沒救惹QQ 10/21 07:58
31F：推 joe2 : 外送員的地位將會超越各位 10/21 08:05
32F：推 truelove356 : NV B康 微軟 還要買哪支 10/21 08:17
33F：推 chobit618 : 學如何當個好電池 10/21 08:23
34F：推 james56733 : 無腦跟單教主黃BG穩穩賺 重點是抱不抱得住 10/21 08:31
35F：推 TIPPK : 995 10/21 09:00
36F：推 karcher : GPU Kernel才開始摸有點晚 10/21 09:09
37F：推 ups : 漲知識推 10/21 09:15
38F：推 pponywong : 大基建兩年是指MAG7 之後是國家級的AI基建 10/21 09:15
39F：推 Samurai : 肉眼可見的未來就是AI 10/21 09:25
40F：→ mit2502 : 蓋好GB200架好 rubon又出來了 10/21 09:48
41F：→ mit2502 : rubin 10/21 09:48
42F：推 strlen : 不用擔心魯賓 老黃的架構都可以延用 至少不會大改 10/21 09:57
43F：推 zaqimon : 好險股票的技能永遠只有一個 永遠不需要更新 10/21 10:03
44F：→ zaqimon : 只要學會買低賣高就行了 10/21 10:03
45F：推 cosmite : 推分享 10/21 10:10
46F：推 junior020486: 阿祖真的猛 10/21 10:30
47F：推 tujeni : 推分享 10/21 10:41
48F：推 zxwxz : 三大雲端供應商都簽約買核電了，這絕對是人類歷史 10/21 12:55
49F：→ zxwxz : 少有的機遇，AI才剛開始 10/21 12:55
50F：推 newyorker54 : 人類社會翻天覆地的變化，這篇有料 10/21 15:21
51F：推 dl123 : 推 才剛開始 10/21 21:22