作者LDPC (Channel Coding)
看板Stock
标题Re: [新闻] 辉达将成AI大赢家！Google前执行长惊爆：
时间Fri Aug 16 15:19:05 2024
QQ 那老兄讲了一堆重要东西
https://www.youtube.com/watch?v=QmbO_EA82Qg
1. Large Context Window (e.g.,狗家1M Token Length)->记忆体需求
2. agents (LLM agents/LLM 机器人)
3. text-to-action (应该指的是LLM OS)
全文稿 快备份 有股点
https://reurl.cc/5d52oz
这也是为啥买NV/买HBM/Cowos/TSMC 然後 没钱了 ...QnQ 救我
看样子两天前有全部影片 现在被Stanford改成private了
顺带一提 以前我认为资料隐私性必须透过on-device AI发展 但是果家私有云一搞後
很明显以後私有云+on-device AI才是未来 然後NV会大赚 QnQ
※ 引述《capssan (Miracle)》之铭言：
: ※ 引述《dosiris (希望大家开心)》之铭言：
: : 原文标题：
: : 辉达将成AI大赢家！Google前执行长惊爆：逾9兆资金流入
: : 原文连结：
: : https://news.tvbs.com.tw/life/2586905
: : 发布时间：
: : 2024/08/16 11:04
: 这个片段其实有趣的
: Eric Schmidt去史丹佛的学院开讲，他本来以为是闭门会议，讲超多干的
: 结束前才说这些要保密不能讲出去
: 结果工作人员才跟他说这场有直播..当场脸都绿了
: 原始影片虽然下架了但很多内容其实都被拿来讨论
: 像是嘴美国大公司一堆米虫比不上台积电这个我记得有小炎上
: 以下是在X上其他人做的节录
: -------------------------------------------------------------------------
: 现在的谷歌为什麽在AI领域输得一塌糊涂？因为谷歌觉得让员工尽早回家和平衡工作比赢
: 得竞争更加重要。如果你的员工每个星期只来公司上一天班，你怎麽可能比得过OpenAI或
: 是Anthropic？
: 看看马斯克，看看台积电，这些公司之所以成功，就是因为能够卷员工，你必须要把员工
: 逼得够紧才能获胜，台积电会让物理学博士第一年下工厂干活，你们能想像美国的博士生
: 去流水线吗？
: 自己犯过很多错误，比如曾经觉得英伟达的CUDA是很蠢的编程语言，但现在CUDA是英伟达
: 最牛逼的护城河，所有的大模型都要在CUDA上运行，而只有英伟达的GPU支持CUDA，这是
: 其他芯片撼动不了的组合。
: 还有微软跟OpenAI合作时自己也觉得难以置信，微软怎麽能把最重要的AI业务外包给那种
: 小公司啊，结果再次看走了眼，再瞧瞧苹果在AI上的温吞，大公司真的都官僚化了，奋斗
: 逼都在创业。
: TikTok给美国人上了一课，在座各位年轻人以後如果创业，能偷音乐什麽的就赶紧去做—
: —似乎是在黑TikTok早期纵容盗版BMG——如果你做成了，就有钱雇用最顶级的律师帮你
: 擦屁股，如果你没做成，那就没人会起诉你。
: OpenAI的星际之门在宣传时说需要1000亿美金，实际上可能3000亿都打不住，能源缺口太
: 大了，给白宫提过建议，美国以後要麽跟加拿大打好关系，水电资源丰富，劳动力便宜，
: 而且够近，要麽去和阿拉伯国家套近乎，让他们来做主权投资。
: 欧洲已经没戏了，布鲁塞尔（欧盟总部所在地）一直都在摧毁科技创新的机会，可能法国
: 还有点希望，德国不行，其他欧洲国家就更不用提了，印度是美国盟友里最重要的摇摆州
: ，以及美国已经失去了中国。
: 开源很好，谷歌历史上的大部分基础设施也都受益於开源，但是说实话，AI行业的成本太
: 高了，开源负担不起，自己投资的法国大模型Mistral将会转为闭源路线了，不是所有公
: 司都愿意且有能力像Meta一样当冤大头。
: AI会让富者愈富、穷人恒穷，国家也是，这是一场强国之间的游戏，没有技术资源的国家
: 需要拿到加入强国供应链的门票，否则也将错过盛宴。
: AI芯片属於高端制造业，产值很高，但不太可能拉动就业，你们可能没几个人去过芯片制
: 造厂，里面全是机械化生产，不需要人，人又笨又脏，所以不要指望制造业复兴，苹果把
: MacBook的产线迁回德州不是因为德州工资低，因为根本不用再大规模雇人了。
: 历史上，电力在引入工厂之後并不比蒸汽机创造了更多的生产力，是过了大概30年左右，
: 分布式电源改造了车间布局，推动组装系统的出现，再才开始了生产力的飞跃。现在的AI
: 和当初的电力一样，有价值，但还需要组织创新，才能真正拿到巨大的回报，目前大家都
: 还只是在摘取「低垂的果实」。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 24.4.211.194 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1723792746.A.383.html
1F：推 CMPunk : 讲太多大实话得快点设成private 08/16 15:19
※ 编辑: LDPC (24.4.211.194 美国), 08/16/2024 15:21:00
※ 编辑: LDPC (24.4.211.194 美国), 08/16/2024 15:23:03
2F：推 pponywong : on device 就赌看看 ARM/AMD 吧 08/16 15:25
3F：推 findwind0826: AI看起来是真玩意儿 但LLM是不是真的解就有待观察 08/16 15:25
4F：→ findwind0826: 但只要主流还是LLM 那NV的GPU就不会有问题 08/16 15:25
5F：推 metallolly : 已经没有特价了喔^_^ 08/16 15:26
6F：→ findwind0826: LLM模型越就越精准 需要的GPU就越多越强=老黄发财 08/16 15:26
7F：推 xephon : 主要问题还是能不能变现，不然最後变科研项目 08/16 15:27
8F：推 w60904max : 主流算法定期换 NV更吃香吧 毕竟通用 08/16 15:28
9F：推 mangle : 现在卡在商业化不明朗吧 08/16 15:28
10F：推 findwind0826: 怎麽可能没办法变现… 唯一问题是LLM是不是正确道 08/16 15:28
11F：→ findwind0826: 路而已 08/16 15:28
12F：推 andy810306 : 你买十亿的豪宅5亿卖也是变现，懂吗？ 08/16 15:29
13F：→ andy810306 : 要说的应该是有没有办法撑起获利 08/16 15:30
14F：→ andy810306 : HTC亏钱做也是一直有营收变现不是 08/16 15:30
15F：→ andy810306 : 正确是一定不正确，不过大多数人工作也没保证正确 08/16 15:31
16F：→ andy810306 : 就是个玩具，取代先进国家没技术性的高薪工人而已 08/16 15:32
17F：→ dosiris : 已下载 08/16 15:32
18F：→ findwind0826: 恩 玩具 好喔 不予置评 08/16 15:32
19F：推 CGDGAD : 已收，谢谢大大无私分享 08/16 15:32
20F：→ andy810306 : 如果你的工作无法结合创造力跟技术性就是被取代 08/16 15:33
21F：推 SSglamr : 老黄救我~ 摊到没钱了 08/16 15:33
22F：推 Lowpapa : 一生平安 08/16 15:36
23F：推 Brioni : AI创造的生产力可能过剩，过度生产但消费力没起来会 08/16 15:36
24F：→ Brioni : 怎样呢？看看中国 08/16 15:36
25F：推 leoislucky : bilibili有完整影片可以看 08/16 15:37
26F：推 shawn0205 : 他也说了AI很烧钱 目前都是低垂的果实 08/16 15:37
27F：→ shawn0205 : 举了电力当例子 30年才开始发展 08/16 15:37
28F：→ Brioni : 现在就是一直大笔资金投入算力怕落後，至於终端怎麽 08/16 15:38
29F：→ Brioni : 回收？那是以後的事情，但投资人已经注意到这一块了 08/16 15:38
30F：推 newyorker54 : 我跟你想法一样，发展在地私用伺服器才是真的辉达大 08/16 15:38
31F：→ shawn0205 : 每个人都只看到自己想看的 08/16 15:38
32F：→ newyorker54 : 爆发的成长 08/16 15:38
33F：推 findwind0826: 烧钱的原因不就是因为NV毛利太高吗？ 08/16 15:38
34F：→ findwind0826: 反过来说股点 NV不就赢定 台积一定赢定 08/16 15:38
35F：→ shawn0205 : 短线就是过热+烧钱 等泡沫破了 08/16 15:39
36F：推 tsubasawolfy: low hanging fruit意思是目前这些AI产出都是小儿科 08/16 15:39
37F：→ newyorker54 : 现在的成本太高算力不足以让每个公司自己架一台伺服 08/16 15:39
38F：→ newyorker54 : 器 08/16 15:39
39F：→ tsubasawolfy: 不用花太多心力钻研 但真正大利益是在更上层要花心 08/16 15:39
40F：→ shawn0205 : 那些高垂的果实 还在很未来 08/16 15:39
41F：→ tsubasawolfy: 思跟$$$去拿到 08/16 15:39
42F：→ Brioni : 这也是失业率很重要的原因，不然大家都没钱去蹲家要 08/16 15:39
43F：→ Brioni : 怎麽撑起兆元美金的产业 08/16 15:39
44F：推 andy810306 : 现在连CPU都跟云端厂商租了，AI更不可能自己买晶片 08/16 15:40
45F：→ Brioni : 泡沫破裂後还是会有真强者存活，像谷歌在网路泡沫破 08/16 15:41
46F：→ Brioni : 灭後发光那样 08/16 15:41
47F：→ andy810306 : 而且云端租CPU是真的有获利，小公司做AI哪可能赚钱 08/16 15:41
48F：推 dosiris : 不过教学还是自己买比较方便 08/16 15:41
49F：→ newyorker54 : 大爆发还要看未来五年，如果单机可以跑405B的AI才是 08/16 15:41
50F：→ newyorker54 : 真的落入民间的实用阶段，像现在的个人电脑 08/16 15:41
51F：推 Exusiai : 看来还有Arm 08/16 15:41
52F：推 guk : 大家真的很强 08/16 15:41
53F：→ Brioni : NV类似当年思科，铲子热 08/16 15:42
54F：→ andy810306 : 顶多几家AI新创骗投资人的钱收割一波闪人 08/16 15:42
55F：→ dosiris : 烧钱(X) 钱求你烧(O) 08/16 15:42
56F：推 strlen : 我们来下载拉马3用ptt文训练 变成不能变现GPT好惹 08/16 15:42
57F：推 findwind0826: 小公司干嘛开发AI 用大公司train好的model就好 再 08/16 15:42
58F：→ findwind0826: 租算力 这成本就算是现在也不是负担不起 08/16 15:42
59F：→ strlen : 问他什麽问题 他讲没几个字就呛你 这能变现吗？ 08/16 15:43
60F：推 JWJerryyy : 感谢大大分享 08/16 15:43
61F：推 metallolly : 创意应该才是未来要培养方向~QQ 08/16 15:43
62F：→ bnn : 就 大公司train好的model给小公司应用场景 不好用 08/16 15:44
63F：推 littenVenus : 老黄：窝484快成佛惹^O^ 08/16 15:44
64F：→ metallolly : 没有创意至少买个TSM跟NVDA~保平安一下 08/16 15:45
65F：→ dong80 : 未来发电厂也是重要的资源了 08/16 15:45
66F：推 joygo : 做ai朋友说，现在上限就卡在，记忆体，电，电是卡 08/16 15:46
67F：→ joygo : 在环保，所以我几乎都在找能源的，美国其实不少新 08/16 15:46
68F：→ joygo : 能源，但是能不能做到又是一回事 08/16 15:46
69F：推 dosiris : 在华人社会 创意很难培养 先给学生工具让他们敢乱想 08/16 15:47
70F：推 sdbb : Nv好像有教铲子怎麽用开发铲子用途 08/16 15:47
71F：→ sdbb : 铲子挖土种玉兰花给__蛙卖 08/16 15:48
72F：→ bnn : 能源主要卡在法规特许权那些问题很大 要内线 08/16 15:48
73F：推 sunday0913 : 重点是短期内没人不敢不玩AI 铲子买起来就对了 终 08/16 15:48
74F：→ sunday0913 : 端应用获利是未来的事 08/16 15:48
75F：推 findwind0826: NIM啊 虽然我还没看到NIM具体怎麽用 08/16 15:49
76F：推 littlejackbr: 空蛙的未来就是死路一条 08/16 15:50
77F：推 findwind0826: 这版一堆矽谷的大大 不知道有没有人能介绍 08/16 15:50
78F：推 littenVenus : L大以後会变大富翁 和教主一样 08/16 15:50
79F：→ littenVenus : 美国公用事业类股的几家电力公司今年股价也喷喷 08/16 15:51
80F：推 TameFoxx : 所以啦 为啥辉达会被禁卖中国 08/16 15:55
81F：→ TameFoxx : 连台GG代工也都是被管制的 08/16 15:56
82F：→ TameFoxx : HBM也被管制 08/16 15:56
83F：推 josephpu : 华尔街从来就不认为AI能在短期内商业化盈利，一个 08/16 15:59
84F：→ josephpu : 才刚起步的行业怎可能马上开始获利。只有散户紧张 08/16 15:59
85F：→ josephpu : 兮兮，纯粹是股价炒高了要修正而已 08/16 15:59
86F：推 pieceioriX : 能源就等核融合啊 不过盒饭大概不懂这啥 08/16 16:00
87F：推 aresa : 老实说你看辉达怎麽做的就可以猜到商业模式了，辉达 08/16 16:01
88F：→ aresa : 之前想买ARM，明显就是想把大模型跟soc搞在一起 08/16 16:01
89F：推 junior020486: 真的能大营利，老黄又要拆股一次 08/16 16:01
90F：→ junior020486: 老黄：豪爽，一直拆股 08/16 16:02
91F：推 goodjop : LD大 我解套 开始赚钱罗~ 08/16 16:12
92F：推 bloodashih : 喔喔喔 08/16 16:14
93F：推 vendan5566 : 有懒人包吗 我懒QQ 08/16 16:15
94F：推 ezreal1315 : 记忆体後面真的要发酵了 存储绝对不够 08/16 16:18
95F：推 wsii20 : 记忆体是美光 三星 海力士吗 08/16 16:20
96F：推 dosiris : 这位老兄的号召力 不容小觑 08/16 16:21
97F：推 TameFoxx : 记忆体现在是处於研发竞赛吧 08/16 16:25
98F：推 HiHiCano : 结果NV盘前没任何反应 小道消息听听就好 08/16 16:34
99F：推 findwind0826: 不用太高估华西街 他们在金融方面的消息很强 08/16 16:41
100F：→ findwind0826: 但科技业的技术发展他们不一定懂 08/16 16:41
101F：推 ksjeff0928 : 1200股NVDL...成本71....99nvdl~QQ 08/16 16:49
102F：推 andy810306 : 是啊，还是ptt法人最懂AI，准备套着当传家宝 08/16 16:49
103F：→ Chilloutt : 未来生产力：顾机台、生物电池、炒股 08/16 16:49
104F：推 ru04hj4 : NVDA+TSM 捏爆 08/16 17:20
105F：嘘 justin200428: 你们知道Ai晶片可以预测飞弹路径吗？ 天弓系统装一 08/16 17:26
106F：→ justin200428: 堆 08/16 17:26
107F：→ justin200428: 4k 显微手术有时间差也是Ai预判 08/16 17:27
108F：嘘 hihowareyou : 早就进了，鱼头好吃 08/16 17:32
109F：推 lin8807819 : 现在才开始 08/16 18:20
110F：→ findwind0826: 如果你觉得AI没有用 那表示你的工作快要没用了 08/16 19:05
111F：推 piece1 : 有钱人通常不是懂的人！自己要斟酌 08/16 19:28
112F：推 loveponpon : nV去年涨10倍 今年呢？会继续该有多好 08/16 19:33
113F：推 AirLee : 应用会在新技术泡沫後大量出现 08/16 20:04
114F：→ aqwa : 美光跌的狗吃＊ 08/16 20:35
115F：→ lantimes : 谷歌有htc团队 走着瞧 08/16 20:48
116F：嘘 iamjamie129 : 云端就很难称得上private ，你信云端业者？ 08/16 21:04
117F：推 chysh : 看完觉得印特尔死定了... 来加码AMD和Qcom 08/16 22:10
118F：推 Heedictator : 晚点来读 08/16 22:13
119F：→ frank01 : Nuscale power 赌下去,赌对了,直接退休。 08/17 06:40
120F：→ frank01 : 不过也别太信,他可以看错二次,不会看错第三次(AI)? 08/17 06:43
121F：→ OFETMAN : 上面例子只能说是先进技术 不是需要运算就叫AI 08/17 10:02
122F：推 CalvinBryant: 这种东西就是注定公有云，怎麽一堆人还在幻想地端思 08/17 12:33
123F：→ CalvinBryant: 维？还会问公有云安不安全，真的笑歪 08/17 12:33
124F：→ LDPC : 笑死 公有私有云和 legal审核都不清楚 08/17 12:57
125F：→ LDPC : aws 公有云infra支援烂 legal还不能保证train私密 08/17 12:59
126F：→ LDPC : 资料不泄漏 08/17 12:59
127F：→ LDPC : 狗家公有云之前还把加拿大资料误删 08/17 13:00
128F：→ LDPC : 果家的私有云是闭环系统 08/17 13:01
129F：→ LDPC : ai三大项 资料最重要 果家有icloud自家隐私系统 08/17 13:02
130F：→ LDPC : 你搜aws data leak 2022就有案例 08/17 13:04
131F：→ LDPC : 所以一种走向是企业自己打造闭锁cloud 有自己infra 08/17 13:06
132F：→ LDPC : team 08/17 13:06
134F：→ LDPC : 资料外流 08/17 13:10
135F：推 mdkn35 : 没人想用之不精准的东西 炒炒股票可以 居高思危 08/17 13:30
136F：推 sean667cd : L大神有研究近期avgo，coreweave 近有两个月发展吗 08/17 15:13
137F：→ sean667cd : ，感觉没什麽特别大事.. 08/17 15:13
138F：推 CalvinBryant: 笑了，资料会被公有云拿去训练，你怎麽不看看M社条 08/17 20:55
139F：→ CalvinBryant: 文怎写的？私有云打造AI我只是笑笑，大厂花了几百亿 08/17 20:55
140F：→ CalvinBryant: 美金的钱在训练AI，私人企业想搞？根本就是把钱丢进 08/17 20:55
141F：→ CalvinBryant: 水里 08/17 20:55