作者LDPC (Channel Coding)
看板Stock
标题Re: [请益] 这波AI产业是牛市最久的一次吗
时间Mon Oct 21 01:58:00 2024
https://reurl.cc/WNmR8D 问阿祖啊 这是网路上在传的
底下有个卫星空照图
https://ibb.co/y4Ww9s6
2022阿祖在盖传统数据中心 结果AI起来後 为因应AI数据中心 2023五月 阿祖直接把
盖到一半的数据中心拆掉 重新盖一次 只为了能更安装GB200 重新设计散热和电力
现在就是裁员裁员裁员 疯狂盖AI基础建设
除了硬体外还有 软体backend升级 你去看现在一堆开缺都是AI Infra Backend缺
里面要求就是会写Triton这种
https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD
这玩意就是之前比尔盖兹说要在软体上re-engineer 透过这些软体backend infra
重新设计 整个AI在Infra的速度会更有效率 更节省电力 这也是为啥大家都说
诶 为啥AI还不能落地卖钱 就是AI大基建需要两年 之後才会有软体服务
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
http://www.mfbz.cn/a/342750.html
AI基建就是新的AI数据中心 电力优化 以及软体Backend Kernel重新设计
一堆人已经开始在学软体上後端开发的技能包 以延续职业生涯
比方说这是苏妈的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黄triton
https://aijishu.com/a/1060000000362271
摘录里面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，
其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话
转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、
听力障碍者，或者异国与会者特别有用
底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语 、姓名和其他会议背景，提高字幕的准确性。
微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”
为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------
这是史上最大一次的基础建设升级 软体硬体都是 以往就业技能树没办法升级成以後
未来技能架构 就...QnQ 准备去当电池了 10年前的人就业技能包写Java/PHP/
现在都在摸这些GPU Kernel 优化...不摸的话就是去当人肉电池 \@n@/
所以怎会拿这波跟啥元宇宙比 元宇宙连基础建设边都没摸到 这真的是...QQ
※ 引述《torrest (torrest)》之铭言：
: 如题
: 差不多从前年底就开始发酵
: 到现在也差不多两年了
: 目前看起来还是要再继续创新高
: 记得从2016开始红过的
: 光学 被动 pcb 航海王 元宇宙 有的没的
: 持续时间了不起就是半年一年结束
: 目前为止ai好像还看不到尽头
: 这波是最长的一次吗
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 24.4.211.194 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1729447090.A.B30.html
※ 编辑: LDPC (24.4.211.194 美国), 10/21/2024 02:01:57
1F：推 waitrop : 我每天摸GPU Kernel,也是很难找工作,准备当人肉电池 10/21 02:00
2F：→ waitrop : 现在只有做AI算法跟模型的人,才有身价 10/21 02:01
3F：推 Chilloutt : 肥宅的价值要浮现惹 10/21 02:02
4F：推 a0808996 : LDPC大 又要数钱了\@n@/ 准备偷渡去加州找你要饭 10/21 02:03
5F：→ LDPC : =_= a08我要去龙山寺找你了 被套牢了..\@n@/ 10/21 02:04
6F：推 sdbb : 99nvdl GOOG meta mu avgo 10/21 02:08
7F：推 cookie1216 : 只能抱紧铲子股了XD 10/21 02:08
8F：→ sdbb : 难找工作(X)太多挖角(O) 10/21 02:10
9F：推 karta018 : 希望阿祖盖快一点，这样他快盖好的时候新技术又问世 10/21 02:12
10F：→ karta018 : ，他又要重盖了 10/21 02:12
11F：→ sdbb : 看捷安特转型成能源股 10/21 02:12
12F：推 crossworld : 笑死 看起来跟哏图迷因一样 10/21 02:18
14F：推 meRscliche : wow 10/21 02:24
15F：推 qweaaazzz : 推 10/21 02:30
16F：推 qwe78971 : 大基建两年太乐观 10/21 03:02
17F：推 bd535853 : 请问一般的网页後端现在学什麽活得下去QAQ 10/21 03:03
18F：→ galoopboy : 楼上：AI 10/21 04:12
19F：推 four5 : 两年後的老黄：大基建现在才刚刚开始 10/21 04:13
20F：推 beagle2001: 再睡两年就要准备卖了 10/21 04:33
21F：推 ejnfu: ML infra / distributed storage or processing 应该活的 10/21 05:21
22F：→ ejnfu: 下去 10/21 05:21
※ 编辑: LDPC (24.4.211.194 美国), 10/21/2024 06:07:47
23F：推 lyh0305 : 推 10/21 06:29
24F：推 brovet : 每天写前端加api的感到难受 10/21 06:32
25F：推 donkilu : 推L大 10/21 07:17
26F：推 ppuuppu : 没有参与到苹果时代的我，这次绝对要参与辉达时代G 10/21 07:48
27F：→ ppuuppu : OGO老黄 10/21 07:48
28F：推 metallolly : 完了 现在要学什麽 ？我怕连电池都没办法当 10/21 07:53
29F：→ hugh509 : 放弃挣扎吧，学股票就赢过9成了，人类终究是当柴烧 10/21 07:55
30F：推 ggsuperda : 只会C语言484没救惹QQ 10/21 07:58
31F：推 joe2 : 外送员的地位将会超越各位 10/21 08:05
32F：推 truelove356 : NV B康 微软 还要买哪支 10/21 08:17
33F：推 chobit618 : 学如何当个好电池 10/21 08:23
34F：推 james56733 : 无脑跟单教主黄BG稳稳赚 重点是抱不抱得住 10/21 08:31
35F：推 TIPPK : 995 10/21 09:00
36F：推 karcher : GPU Kernel才开始摸有点晚 10/21 09:09
37F：推 ups : 涨知识推 10/21 09:15
38F：推 pponywong : 大基建两年是指MAG7 之後是国家级的AI基建 10/21 09:15
39F：推 Samurai : 肉眼可见的未来就是AI 10/21 09:25
40F：→ mit2502 : 盖好GB200架好 rubon又出来了 10/21 09:48
41F：→ mit2502 : rubin 10/21 09:48
42F：推 strlen : 不用担心鲁宾 老黄的架构都可以延用 至少不会大改 10/21 09:57
43F：推 zaqimon : 好险股票的技能永远只有一个 永远不需要更新 10/21 10:03
44F：→ zaqimon : 只要学会买低卖高就行了 10/21 10:03
45F：推 cosmite : 推分享 10/21 10:10
46F：推 junior020486: 阿祖真的猛 10/21 10:30
47F：推 tujeni : 推分享 10/21 10:41
48F：推 zxwxz : 三大云端供应商都签约买核电了，这绝对是人类历史 10/21 12:55
49F：→ zxwxz : 少有的机遇，AI才刚开始 10/21 12:55
50F：推 newyorker54 : 人类社会翻天覆地的变化，这篇有料 10/21 15:21
51F：推 dl123 : 推 才刚开始 10/21 21:22