作者kobebrian (bryant)
看板Stock
标题Re: [新闻] DeepSeek R1来了，追平o1！它现在不但比OpenAI开放，也
时间Mon Jan 27 20:15:23 2025
先说 我完全不懂DS的算法 也不懂open ai的算法
但既然DS开源 那大家都能使用的情况下 未来AI迭代肯定加速
有人说我用1/50的算法就可以做到一样的功能...是啊大家都可以用这套算法的情况下 那
还是得拼硬体
我用更强大的硬体可以推出更好的产品、服务
除非今天硬体本身的上限到了 没办法再有
更好的硬体来加速运算
不然这些大公司要怎麽赢过有同样效率、算法的对手？我硬体先用到顶规 再来用软体拼
赢 还是有人觉得这些大公司挖金矿敢用次级铲子？
就是那些小公司现在也「可能」有本钱下来市场玩 他们可能可以用次一等的铲子来挖 推
出没那麽好但便宜的产品 这会让整个硬体的市场扩大 以前只能是最顶规的硬体跟AI有关
现在不是
而且也就是「可能」而已
-----
Sent from MeowPtt on my iPhone
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 49.216.41.178 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1737980125.A.C31.html
1F：推 freeclouds : 确实这样 卖铲子的还是大赢家 大家都下来挖 01/27 20:16
2F：嘘 kensmile : DS就用H100而已，你觉得会有什麽扩大需求 01/27 20:17
3F：→ kensmile : 需求增加的低阶，不是高阶 01/27 20:18
4F：→ kensmile : 这才是可怕 01/27 20:18
5F：推 jason0925 : 铁铲子金铲子 挖出来东西一样很盘呢？ 01/27 20:18
6F：→ jason0925 : 买铁铲子的爽死 买金铲子的死去 01/27 20:18
7F：推 andy810306 : 大胆，傻多表示万一金铲子有隐藏装备附加技能呢 01/27 20:18
8F：→ kensmile : H100就能用，谁要用GB300 01/27 20:19
9F：→ kensmile : DS带来的是这个冲击 01/27 20:19
你确定用GB下来算这套算法会一样吗？你没看懂我的文 话说台积电也还真没差 因为2-5
奈米晶片都制霸 H100你敢用七奈米吗
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:20:46
11F：→ kensmile : 完全搞不清楚原因 01/27 20:20
12F：→ fashsboy : 成本差异这麽大，投资方不会问为什麽别人用H100做的 01/27 20:20
13F：→ sa87a16 : 金铲子跟木铲子 能挖出一样东西，谁要买金铲子 01/27 20:20
14F：→ fashsboy : 起来你不行？你说美国那些AI公司要怎麽回答这问题？ 01/27 20:20
15F：→ saisai34 : 用GB300能耗比比较划算啊 @n@a 01/27 20:20
16F：推 freeclouds : 现在难道三星 英代尔 联电可以生出铁铲子? 01/27 20:20
17F：推 andy810306 : 傻多表示：你们要做梦啊，说不定金铲子有隐藏加成 01/27 20:20
18F：推 naligono : 市场是往效率方向走 不是比速度 01/27 20:21
你要先确定现在的硬体上限已经无法推升效率了 就是我说的 硬体本身的上限才会是天花
板
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:22:41
推 edward0811 : ex打坦克，大量肩扛
武器比f35有用吧 01/27 20:22
以美军的角度来说 还是陆空一体打击比不对称有效率 因为硬体的效率上限还是无上限
乌克兰要不是没更多军援也不用在那边让人肩射消耗
19F：推 q541700 : 以单为证没单就是瞎猜 01/27 20:23
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:25:03
20F：推 jaricho : 照着逻辑 所以干嘛买i16 买个i8就爽爽用了啊 01/27 20:23
21F：嘘 f12sd2e2aa : 什麽都不懂还能出来发文 厉害 01/27 20:23
22F：推 zxcjimyou : 壮胆文 别怕 下周再现期指跌停 01/27 20:24
23F：推 amig0123 : 买华为就好了 干嘛买苹果 对吧 01/27 20:25
24F：推 jiansu : 如果是1/50的成本 硬体也是需要1/50 你量要变成50 01/27 20:25
25F：→ jiansu : 倍 短期间量不一定有50倍 然後硬体1/50有更多硬体 01/27 20:25
26F：→ jiansu : 厂商可以 说不定7nm也有机会了 短期就估值要调整 01/27 20:25
27F：推 Rbian : 呃 DS离AGI还很远，怎麽会觉得H100就能满足需求了 01/27 20:26
28F：→ Rbian : 。。。 01/27 20:26
29F：推 edward0811 : 买iPhone13,不需要买到16，拿8比喻干嘛 01/27 20:26
30F：推 bonfferoni : 100分的产品 有人用50元作出80分产品 有人用500元做 01/27 20:26
31F：嘘 F93935 : 这样也一篇 传产脑的下来评论ai 01/27 20:26
32F：→ bonfferoni : 95分的产品实际上80的产品就够用了 01/27 20:26
事实上现在AI的开发很大一部分就是成本被限制住 如果有更有效率的软体搭配硬体 潜在
市场的开发量是难以预估的 你想想现在AI受众多小就知道了
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:28:00
33F：推 strlen : 如果今天的确大家只讲效率性价比 那的确就这样了 01/27 20:26
34F：→ kougousei : 现在的产品离agi都还超远 等已经饱和达到agi再来吵 01/27 20:27
35F：→ kensmile : 只要提升算法，中小型Ai公司，根本不需要用到高阶 01/27 20:27
36F：→ kougousei : 什麽买两代前硬体就够好不好 01/27 20:27
37F：→ strlen : 但感觉大家的目标还是AGI 就连DS自己也说目标是AGI 01/27 20:27
38F：→ kinki5566 : 苹果出个i16minus 性能只有i8 价格1000台币 一定卖 01/27 20:27
39F：→ kinki5566 : 到爆好不好 01/27 20:27
40F：→ strlen : 既然目标是AGI 总不会连国中数学题都解不出来吧 01/27 20:27
41F：→ kensmile : 什麽i8，i16鬼打墙的举例 01/27 20:27
42F：→ strlen : 是不是先用新硬体加新算法 帮帮忙解一下国中数学？ 01/27 20:28
43F：→ kensmile : 终端消费电子是消费者偏好 01/27 20:28
44F：→ strlen : 连国中数学都解不开 这算是 够用 吗？ 01/27 20:28
45F：→ kensmile : 不是生产者成本 01/27 20:28
现在的AI根本连消费市场都没办法满足 不是说消费者很满意现在的AI服务 而是大家都还
在靠腰AI怎麽这麽废 有更有效率的软体+硬体才是真正让需求被满足的首要条件
46F：推 edward0811 : 例如5070不需买到5090差距才对吧 01/27 20:28
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:29:47
47F：→ strlen : 还是觉得 AI只要能拿来问问附近有什麽好吃的 就好 01/27 20:28
48F：→ strlen : 那其实连GPT3都够用了 01/27 20:29
49F：推 tai890123 : 其实重点就是这套算法用高阶的硬体去跑 01/27 20:29
50F：→ tai890123 : 能不能有更高的效率 如果有 01/27 20:29
51F：→ tai890123 : 那最後大家都采用这算法 还是有硬体需求啊 01/27 20:29
52F：→ strlen : 现在的LLM还远远不足吧？多模态算法也可以改进下吗 01/27 20:30
53F：→ tai890123 : 重点是因为他是开源大家都能学吧 01/27 20:30
54F：推 a22530722 : 接下来大家模型都一样强 还是得回归到比硬体吧..... 01/27 20:30
55F：→ strlen : DS好像也没有语音AI 也没有图像AI 影片AI 01/27 20:30
其实就我文中那一句话 除非证明硬体的上限已到 不然就是继续拼硬体 有人用F-35当举
例论证效率结果打到自己脸 人家现在拼命搞六代机了 就是硬体上限还他妈看不到边勒
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:32:18
56F：→ strlen : 通通都提升 然後结合在一起 或许才摸到AGI的边吧？ 01/27 20:30
57F：嘘 liliumeow : 问题是目前大厂的最终需求很可能大砍 那预期未来要 01/27 20:32
58F：→ liliumeow : 砍之後 你现在的议价权整个就没了 01/27 20:32
那大厂必须有绝对的把握 硬体已经无法有效率的提升运算了 不然同一套算法下 好的硬
体能比别人做更多 那谁敢不用
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:33:33
60F：→ mongduo : 商转要加速了，请找好标的。 01/27 20:33
61F：推 tai890123 : 除非证明这套算法用高阶的硬体跑不会有效提升 01/27 20:33
62F：→ tai890123 : 不然为啥需求会掉？ 01/27 20:33
63F：→ tai890123 : 难道大家不会继续往上追求了吗 01/27 20:33
64F：→ tai890123 : 难道有人觉得 ai已经不能再提升了 01/27 20:34
65F：→ tai890123 : DS现在能做到已经是完美的吗？ 01/27 20:34
66F：→ tai890123 : 前面就很多人列举了他的缺点 01/27 20:34
67F：→ tai890123 : 包括记忆不足的问题 这些都是好硬体能解决的捏 01/27 20:34
68F：→ strlen : 应该是说 大家对AI能力的上限要求到哪边 01/27 20:35
69F：→ strlen : 如果觉得r1就是终点了 不用再提升了 我们这样就好 01/27 20:35
讲难听的啦 现在别说理组 连跟AI最沾不到边的文组公司 都会问AI怎麽这麽废 就最普通
的老百姓都对AI的功能有更多的梦想 消费者对AI只会要求的更多
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:37:57
70F：→ strlen : 那当然硬体就下去啦 但很明显连DS自己都说希望提升 01/27 20:35
71F：→ strlen : 硬体 有机会的话 还可以弄出更好的AI 01/27 20:36
72F：→ kougousei : 如果有人觉得现在这些模型就是ai的重点 那真的 01/27 20:36
73F：推 lusifa2007 : 找理由空而已 有核弹为什麽还要近一步研究氢弹 因 01/27 20:36
74F：→ lusifa2007 : 为要比对手更近一步 01/27 20:36
75F：→ kougousei : 科技股卖一卖 如果ai这麽蠢大家就满足的话 01/27 20:36
76F：→ lusifa2007 : 怎麽会有人以为DS不想搞到gb200 01/27 20:36
77F：→ lusifa2007 : 它是搞不到 01/27 20:37
78F：推 naligono : 长期还不明朗 但短期需求铁定大幅下修啊 不然在跌 01/27 20:38
79F：→ naligono : 什麽？ 01/27 20:38
现在连砍单的新闻都没有 我更倾向是市场恐慌 也不是没示范过 NV前几个月还有破百价
我还爽买喔
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:39:23
80F：→ strlen : 短空是一定的 因为人很容易满足 觉得这样就好的人多 01/27 20:38
81F：→ strlen : 我自己用到现在的感觉 AI在生产力工具上 零件的提升 01/27 20:39
82F：→ strlen : 已经慢慢有在起来了 一年前那个根本是很掉漆 01/27 20:39
83F：→ IBIZA : 其实不是DS想不要搞GB200, 你要问的他用多少总算力 01/27 20:39
84F：→ IBIZA : 达到这个结果 01/27 20:39
不重要 因为更强的硬体用这套算肯定只会更强...除非硬体上限到了
85F：推 PalmAngels : 范纽曼瓶颈 01/27 20:39
86F：→ strlen : 现在是堪用 但理想是产出零件 自己组合成系统 01/27 20:39
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:41:13
87F：→ strlen : 我想如果你亲自去问DS梁文峰算力够吗 他绝对跟你说 01/27 20:41
88F：→ IBIZA : 如果真的只要1/50算力 就能达到可以接受的结果 01/27 20:41
我也讲了 现在连最废的文组消费者都觉得AI有够烂跟笨 网路YTR还在排跟自己的AI对话
的蠢影片嘲讽 会觉得「可以接受」那真的太容易被满足了
89F：→ strlen : 远远不够的啦 XD 01/27 20:41
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:42:31
90F：→ strlen : 至少目前看到的所有业内 都不认为算力够了 都是外围 01/27 20:41
91F：→ strlen : 的在讲 01/27 20:41
92F：→ IBIZA : 我不用问他 他的api定价是open ai的1/100 01/27 20:41
93F：→ strlen : DS认为这是可接受的结果 但有想停在这里吗 01/27 20:42
94F：推 stpada : 更强的硬体 但更少的数量 不就有overbooking 疑虑 01/27 20:42
95F：→ IBIZA : 而且open ai是亏损50%, 他是盈利50% 01/27 20:42
96F：→ IBIZA : 没人说他会停在这 01/27 20:42
97F：→ xephon : 後面要看模型有没有碰到天花板，堆算力效果不一定好 01/27 20:42
98F：→ IBIZA : 问题就是 整个市场如果只需要1/50的算力就能达到 01/27 20:42
能达到什麽？现在的程度吗？sry人类只想追求更屌的AI 用更好的硬体下来算这套只会有
更多人买单
99F：→ strlen : 昨天有人贴访谈 他的目标 说AGI耶 r1是AGI吗 XD 01/27 20:42
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:43:37
100F：→ IBIZA : 现在的需求 那剩下的49/50的算力是不是要大拍卖? 01/27 20:42
剩下的49/50就是要他妈打爆对手的份而已 因为大家都会你这套算法了
101F：推 bagaalo : 可以接受的结果？怎麽要算可以接受？目前都还是在军 01/27 20:42
102F：→ bagaalo : 备竞赛，比赛到一半而已，又有什麽结果？ 01/27 20:42
103F：推 lusifa2007 : 盈利50%？它有宣布盈利了吗？ 有这则新闻？ 01/27 20:42
104F：→ strlen : 本身都发愿了 所以市场觉得这样够了 他就退休了？ 01/27 20:43
105F：→ IBIZA : r1不是AGI 现在谈的是市场 不是DS自己的发展 01/27 20:43
106F：→ IBIZA : 很简单啊 现在open ai 1M tokens input是12美元 01/27 20:43
107F：→ strlen : DS在LLM是站稳一点了 还有多模态等着你呢 加油啦 01/27 20:43
108F：→ IBIZA : DS是0.12美元 01/27 20:43
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:44:56
109F：→ strlen : 怎不是谈DS自己发展？AI不谈发展谈啥？ 01/27 20:44
110F：→ IBIZA : 而且DS开源 等一堆中型企业架起他们的LLM伺服器 01/27 20:44
111F：→ IBIZA : 你看这市场怎麽走? 01/27 20:44
112F：→ IBIZA : AI市场不是只有DS自己发展吧XD 01/27 20:44
就是因为不是只有他们 这套算法好用大家一起开发 接下来就一样拼硬体 不是1/50可以
有一样的结果就会停下来 49/50就是要去打败其他用套一套算法的对手
113F：→ strlen : 更便宜效率更好 本来就是可预期的事 老黄去年演讲也 01/27 20:45
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:46:35
114F：→ strlen : 自己早就预测算法一定会改进 AI成本会变更低 01/27 20:45
115F：→ IBIZA : 更便宜 效率更好 突然暴增50倍的算力 有50倍需求能 01/27 20:45
116F：→ strlen : 老黄自己早就心里有底也说好几次了....... 01/27 20:45
117F：→ IBIZA : 吃下来吗 01/27 20:45
118F：推 tai890123 : 问题是这个可接受的结果在哪 01/27 20:45
119F：→ tai890123 : 以科技业来说 他们一定都是追顶这个没疑问吧 01/27 20:45
120F：→ tai890123 : 以日常来说 有gpt4跟3摆在你眼前 01/27 20:45
121F：→ tai890123 : 你觉得两者差距不大 那你的接受区间比较大 01/27 20:45
122F：→ tai890123 : 那确实就不用往上追 01/27 20:45
123F：→ tai890123 : 只是这种人多吗 01/27 20:45
124F：→ tai890123 : 至少我自己能用4绝对不会回头用3 01/27 20:45
125F：→ IBIZA : 没有的话 那堆积算力就要停下来了 01/27 20:45
126F：→ strlen : 暴增的50倍算力 是不是就可以拿来提升AI 让它至少可 01/27 20:46
127F：→ strlen : 以解国中数学题 XD 01/27 20:46
128F：→ IBIZA : ..... 01/27 20:46
129F：推 bonfferoni : 可接受结果应该是商转应用的方面 不是科技巨头在争 01/27 20:46
130F：→ strlen : 还是你觉得国中数学题不重要？我还以为AI说要用在教 01/27 20:46
131F：→ strlen : 育是说说而已 01/27 20:46
132F：→ IBIZA : 你先搞清楚整个AI市场是长怎样好吗 01/27 20:46
就我的观察 是连最废的文组公司都在买gpt 但还觉得他不够好用 4o
※ 编辑: kobebrian (220.137.188.122 台湾), 01/27/2025 20:47:42
133F：→ IBIZA : OpenAi一年大概80亿的支出 这部分是OpenAi自己进化 01/27 20:47
134F：→ IBIZA : 的费用 01/27 20:47
136F：推 tai890123 : 追根究底就是需求有没有过剩 01/27 20:47
137F：→ tai890123 : 如果真的过剩 还真的不一定需要这麽好的硬体 01/27 20:47
138F：→ tai890123 : 就跟你买电脑 01/27 20:47
139F：→ tai890123 : 如果只用1080p萤幕干嘛买90显卡一样 01/27 20:47
140F：→ IBIZA : 微软的800亿美元投资 则是架构平台 提供API给市场 01/27 20:48
141F：→ IBIZA : 上所有需要AI的企业 去呼叫微软布设 以ChatGPT 01/27 20:48
142F：→ strlen : 那个国中数学就证明 AI多模态这边 还有得玩勒 01/27 20:48
143F：→ IBIZA : 为底层的应运 01/27 20:48
144F：→ IBIZA : 应用 01/27 20:48
145F：→ kobebrian : 这样回比较快 现在的市场连最文组的公司都觉得gpt 01/27 20:49
146F：→ kobebrian : 远远不及格 用1/50的算法有一样的效果 应该要想的 01/27 20:49
147F：→ kobebrian : 是我要怎麽用49/50做得更好让更多人买单 01/27 20:49
148F：→ IBIZA : 所有平台的成本 是OpenAi本身的几十倍吧 01/27 20:49
149F：→ IBIZA : kobebrian你搞错了 01/27 20:49
150F：推 tai890123 : 对 所以大前提就是 1/50真的能满足市场需求吗 01/27 20:49
151F：→ strlen : CSP应该不会受影响 DS开源只会引来更多中小加入 01/27 20:49
152F：→ kobebrian : 如果open ai用这套算法配上顶规铲子下去算能更满足 01/27 20:49
153F：→ kobebrian : 客户 我看不出为啥不做的道理 因为其他大公司肯定 01/27 20:49
154F：→ kobebrian : 也会这麽作 01/27 20:49
155F：→ strlen : 有钱就买GB200 没钱就直接租 本来想玩的觉得太贵 01/27 20:50
156F：→ tai890123 : 如果能满足 确实硬体不用往上升了 01/27 20:50
157F：→ tai890123 : 只是目前我觉得远远还没满足 01/27 20:50
158F：→ IBIZA : openai要进步 是openai这一个非营利组织的任务 01/27 20:50
159F：→ strlen : 现在想玩的更多门槛更低 CSP照收租用的费用 01/27 20:50
160F：→ IBIZA : 微软则拿openai的成果 做成平台给其他企业使用 01/27 20:50
161F：→ kobebrian : 你不说open ai也没差 总之市场对gpt 4o的服务可是 01/27 20:50
162F：→ kobebrian : 远远没打到「满意」 01/27 20:50
163F：→ kobebrian : 也就是剩下的49/50 还有很大的开发空间 这就要有强 01/27 20:51
164F：→ kobebrian : 大的硬体配合这套算法支撑 更何况这套算法并没有真 01/27 20:51
165F：→ kobebrian : 的这麽「新创」 01/27 20:51
166F：→ IBIZA : 现在 一家中型公司 只要布设微软1/50的算力 01/27 20:51
167F：→ IBIZA : 运作使用DS模型 就能提供跟微软一样的服务 01/27 20:52
168F：→ IBIZA : 这样看得懂吗 01/27 20:52
169F：→ kobebrian : 你还在想只要「这样」的服务 可以省好多钱 但大公 01/27 20:52
170F：→ kobebrian : 司要的是吃更多的市占率 而现在有了这套算法 就能 01/27 20:52
171F：→ kobebrian : 用更好的产品去抢市占 01/27 20:52
172F：→ strlen : 这样不是一堆本来因为成本不敢进场的公司通通跳进来 01/27 20:52
173F：→ IBIZA : 那就是看市场需要多少算力 01/27 20:52
174F：→ strlen : 那算力需求会变少吗？嗯？ 01/27 20:52
175F：→ kobebrian : 如果你觉得现在微软的服务市场满意的话 当我没说 01/27 20:53
176F：→ IBIZA : 对 会有一堆中小公司跳进来 01/27 20:53
177F：→ IBIZA : 但之前已经投资的算力 回收期就更慢了 01/27 20:53
178F：→ IBIZA : 而且这些中小公司并不需要布设跟微软一样高的算力 01/27 20:53
179F：推 tai890123 : 对 但微软就能拿着另外49/50做其他事 01/27 20:53
180F：→ tai890123 : （因为他们也能用这个模型） 01/27 20:53
181F：→ tai890123 : 可是你那家中型公司因为硬体不足 只能做到1/50 01/27 20:53
182F：→ tai890123 : 所以做不到这件事 01/27 20:53
183F：→ tai890123 : 这样不就被屌打了吗 01/27 20:53
184F：→ tai890123 : 除非这1/50已经满足了所有需求 01/27 20:53
185F：→ IBIZA : 他可能采购比较差的GPU就能提供服务了 01/27 20:53
186F：→ kobebrian : 然後我还讲到一点 就算是更小的算力也是H100 然後 01/27 20:54
187F：→ kobebrian : 还满足不了市场需求 然而现在能拿出这等级晶片的公 01/27 20:54
188F：→ kobebrian : 司…也就一家 01/27 20:54
189F：推 gladopo : 砸ai钱的目的不是为了"只是这样"的服务 01/27 20:54
190F：→ IBIZA : 微软要拿49/50做甚麽? 01/27 20:54
191F：推 as6633208 : 中国的语言模型的问题就是只能开源，因为中国要收钱 01/27 20:54
192F：→ as6633208 : 根本没有企业敢用，谁用就是把资料丢给中国政府利用 01/27 20:54
193F：→ as6633208 : ，而这个困境监狱是中国自己盖的，他们只能开源给别 01/27 20:54
194F：→ as6633208 : 国改良，没办法发展自己的，因为没有使用者 01/27 20:54
195F：→ strlen : 微软CEO在讲的杰文斯悖论 就是在讲这件事 01/27 20:54
196F：→ IBIZA : LLM的算力 基本上是需要的人 喂资料 得到结果 01/27 20:55
197F：→ kobebrian : 现在的服务远远达不到市场的需求 当年大家觉得能连 01/27 20:55
198F：→ kobebrian : 网的手机就好棒棒了 结果一个哀凤让消费者见识到什 01/27 20:55
199F：→ kobebrian : 麽是「符合需求」 更何况现在连最废的文组都知道AI 01/27 20:55
200F：→ kobebrian : 服务超难用 01/27 20:55
201F：→ IBIZA : 微软本身是提供平台 他不是喂资料的人 01/27 20:55
202F：→ IBIZA : kobebrian, 算力变高 不会让AI更聪明... 01/27 20:55
203F：→ strlen : 微软那个平台怎麽可能没存资料.............. 01/27 20:56
204F：→ IBIZA : AI的能力是看核心 ChatGPT 3.5 4.0 这个是质的进步 01/27 20:56
205F：→ IBIZA : 但同一个核心算力增加 就是服务更多人而已 01/27 20:56
206F：→ strlen : 要让AI更聪明 是不是还是要算力......... 01/27 20:56
207F：→ IBIZA : 不会变聪明 01/27 20:56
208F：→ IBIZA : 不是 01/27 20:56
209F：→ IBIZA : 要让AI更聪明是 OpenAI要开发出下一代模型 01/27 20:57
210F：→ IBIZA : 跟微软提供多少算力没关系 01/27 20:57
211F：→ strlen : 算力分两种 就训练用跟服务用 都需要阿怎麽不需要 01/27 20:57
212F：→ IBIZA : 微软的算力又没拿来训练新模型 01/27 20:57
213F：→ IBIZA : 微软的算力是提供客户算自己的应用的 01/27 20:57
214F：→ IBIZA : OpenAI的算力 才是训练新LLM模型用的 01/27 20:58
215F：→ IBIZA : 这很难懂吗 01/27 20:58
216F：推 narotic : 现在有什麽应用是一定要用金铲子来挖的吗... 01/27 20:58
217F：→ IBIZA : 微软的算力 是给你我他订阅Copilot的人用的 01/27 20:58
218F：→ IBIZA : 除非OpenAi的下一代参考DS 不然DS不会影响OpenAi的 01/27 21:00
219F：→ IBIZA : 下一代训练要花的时间跟成本 01/27 21:00
220F：→ IBIZA : 但市场上 如果开始使用DS架设LLM伺服器 01/27 21:00
221F：→ IBIZA : 同样的算力可以算出50倍的结果 01/27 21:00
222F：→ IBIZA : 市场有这麽多算力需求吗 01/27 21:00
223F：→ IBIZA : 同样的算力可以服务50倍的算力需求 01/27 21:01
224F：→ IBIZA : DS这个价格 会让算力需求暴增好几倍 01/27 21:02
225F：→ IBIZA : 但同样硬体的算力能力也暴增50倍 01/27 21:02
226F：→ IBIZA : 看得懂吗 01/27 21:02
227F：→ IBIZA : 现在DS开出的 100万个tokens input价格是openai的 01/27 21:03
228F：→ IBIZA : 1/100, 可以想像阿猫阿狗都能使用DS 01/27 21:03
229F：→ IBIZA : 应用会大爆发 最起码成本会降很多 01/27 21:04
230F：→ IBIZA : 但对平台跟晶片来讲 爆发的需求是否能抵销硬体能力 01/27 21:04
231F：→ IBIZA : 暴增50倍? 01/27 21:05
232F：推 g27834618 : 目标是agi 不会想用更好的硬体？ 01/27 21:06
233F：→ IBIZA : 其他AI平台也是一样 它们成本都跟openai差不多 01/27 21:06
234F：→ IBIZA : 这你要问 谁的目标是agi 01/27 21:06
235F：→ IBIZA : 其实对使用者来讲 不会在乎用的是agi或MoE 01/27 21:07
236F：→ IBIZA : 使用者能解决问题就好 你会在意你问的对象是通用智 01/27 21:08
237F：→ IBIZA : 慧 还是为了特定目的开发的特地目的AI? 01/27 21:08
238F：→ IBIZA : 目标AGI, 指的是像是openai这种研发模型的公司的目 01/27 21:09
239F：→ IBIZA : 标 不是市场需要AGI 01/27 21:09
240F：嘘 csking811116: 重点是ChatGPT要钱 DS开源免钱效能还比较好 01/27 21:10
241F：→ IBIZA : 先不说 目前的LLM到底是不是走在通往AGI的道路 01/27 21:10
242F：→ csking811116: 我就问免费的香不香 01/27 21:10
243F：→ IBIZA : 就算是好了 短期内 商业使用也没有AGI甚麽事情 01/27 21:10
244F：→ csking811116: 便宜治百病 才不管甚麽效能只有80% 01/27 21:11
245F：推 j0987 : 推 01/27 21:11
246F：→ IBIZA : AGI其实比较像一个圣杯 01/27 21:12
247F：→ MTKer5566 : 很多人没当过资方，成本差50倍，不是1万和50万的差 01/27 21:14
248F：→ MTKer5566 : 别，是1亿和50亿的差别，到时候是10亿和500亿差了4 01/27 21:14
249F：→ MTKer5566 : 90亿的成本，大股东绝对干翻你们这些什麽狗屁首席 01/27 21:14
250F：→ MTKer5566 : 科学家、架构师 01/27 21:14
251F：→ IBIZA : 以微软来讲是800亿 美元啊 01/27 21:15
252F：→ IBIZA : 如果真的可以用大约20亿美元硬体 提供跟微软一样的 01/27 21:16
253F：→ IBIZA : 算力... 01/27 21:16
254F：→ MTKer5566 : 如果是10万和500万等级的产品差别，那这个东西没有 01/27 21:16
255F：→ MTKer5566 : 人行门槛，今天可以把要上百亿门槛的产业变成只要1 01/27 21:16
256F：→ MTKer5566 : -2亿，这门槛变超低的好吗 01/27 21:16
257F：→ MTKer5566 : 这会产生化学变化呀，以中国人的狼性，知道原来硬 01/27 21:18
258F：→ MTKer5566 : 体需求那麽低，不卷翻欧美才怪 01/27 21:18
259F：→ IBIZA : 其实我就不知道 AI应用 盘前在杀什麽 不过好像有 01/27 21:18
260F：→ IBIZA : 回来一点了 01/27 21:18
261F：嘘 goodideals : AGI都还没出来说高阶没用会不会太早了 01/27 21:19
262F：推 goodideals : 你对手砸钱往AGI迈进 你不跟砸吗 01/27 21:23
263F：→ goodideals : 除非啦 你今天用DS 2000颗组成AGI 再来说算力泡沫 01/27 21:24
264F：→ rebel : 我觉得你先搞清楚再来评论 AI的模型就是有个满足点 01/27 21:25
265F：→ rebel : 过了满足点更多的算力也不见得结果会更好 甚至某 01/27 21:25
266F：→ rebel : 些情况还更差 现在就是做到这个满足点的成本大降 01/27 21:25
267F：→ rebel : 不是无限堆算力就有用 01/27 21:25
268F：→ IBIZA : AGI还没出来 就不关市场的事啊 01/27 21:25
269F：→ IBIZA : 一家公司堆算力是能堆多少? 01/27 21:25
270F：→ IBIZA : 以openai一年的经费80亿来看 只有微软资本支出的 01/27 21:26
271F：→ IBIZA : 1/10, 而且他也不是全部堆资本 01/27 21:26
272F：推 junior020486: 其实为什麽大家都相信DS真的只用1/50的算力啊，他 01/27 21:26
273F：→ junior020486: 公布的数据是真实的吗？ 01/27 21:26
274F：→ IBIZA : 楼上 但他开出来的订阅价格确实是openai的1/100左右 01/27 21:27
275F：嘘 goodideals : 阿就还没做出AGI你怎麽知道AGI需要多少算力才够… 01/27 21:27
276F：→ CYL009 : 问矽谷那群家伙 他们有意无意也证实 不然干嘛爆开来 01/27 21:27
277F：→ junior020486: 也不知道他是不是又吃到中国补助打价格战 01/27 21:27
278F：→ IBIZA : 100万个tokens的报价 openai是15美元, DS是0.12美元 01/27 21:27
279F：→ IBIZA : @goodideals 你先搞清楚那些算力是在做LLM->AGI 01/27 21:28
280F：→ IBIZA : 那些算力是在做一般商业应用 好吗? 01/27 21:28
281F：→ rebel : 很多人再说AGI 我不确定市场上已经普遍接受我们现 01/27 21:28
282F：→ rebel : 在就是要做出AGI 依我业内的看法 AGI是长远目标 但 01/27 21:28
283F：→ rebel : 现在的演算法还做不到 你给他多少算力都一样 要等 01/27 21:28
284F：→ rebel : 下一次的AI大爆发了 01/27 21:28
285F：→ IBIZA : 用在发展AI模型本身的算力大概是总算力的百分之几 01/27 21:29
286F：→ junior020486: 如果吃补助打价格战，感觉就是要反倾销+更严格的晶 01/27 21:29
287F：→ junior020486: 片禁令 01/27 21:29
288F：→ IBIZA : 而已 01/27 21:29
289F：→ IBIZA : @junior020486 DS是开源的 任何公司都可以拿程式码 01/27 21:29
290F：→ IBIZA : 去训练自己的AI模型 01/27 21:29
291F：→ IBIZA : 骗不了人 01/27 21:29
292F：推 goodideals : 阿对手砸钱往AGI前进 你要不要跟 不跟你就等着对手 01/27 21:30
293F：→ goodideals : 做出AGI然後通吃市场 01/27 21:30
294F：→ IBIZA : 唉 01/27 21:30
295F：→ IBIZA : 为什麽goodideals永远听不懂 01/27 21:30
296F：推 junior020486: 这样子真的够戏剧化，七巨头一夜之间被中国打趴 01/27 21:31
297F：→ junior020486: 我封关买的TSM直接亏烂，好险我有7-8倍的美债凹回 01/27 21:31
298F：→ junior020486: 来 01/27 21:32
299F：推 rebel : 那做不出来呢 公司要砸所有资源去赌吗 以为公司不 01/27 21:32
300F：→ rebel : 用评估预算可行性吗 01/27 21:32
301F：→ IBIZA : @goodisdeals 你要理解 市场上有些公司是做AI模型 01/27 21:33
302F：推 AirLee : 这代表资本额比较小的公司也能加入开发的行列了啊 01/27 21:33
303F：→ AirLee : ，铲子还是有生意。 01/27 21:33
304F：→ IBIZA : 有些是做平台的 01/27 21:34
305F：推 junior020486: 不过台积先进制程最大客户还是苹果，大不了资本支 01/27 21:35
306F：→ junior020486: 出不要扩那麽快 01/27 21:35
307F：→ IBIZA : 做AI模型的公司 才有你所谓砸钱往AGI前进的问题 但 01/27 21:35
308F：→ junior020486: 不过算力成本降那麽多，真的一堆小公司也可以进来 01/27 21:35
309F：→ junior020486: 万 01/27 21:35
310F：→ IBIZA : 这些公司的支出只有整个AI市场的零头 01/27 21:35
311F：推 rebel : 我就问你 AI早就在199x年击败西洋棋冠军 为什麽20 01/27 21:36
312F：→ rebel : 年後才击败围棋 是这中间算力不够吗？不是 是演算 01/27 21:36
313F：→ rebel : 法不对 不对的演算法给多少算力都没用 办不到就是 01/27 21:36
314F：→ rebel : 办不到 01/27 21:36
315F：→ junior020486: 这样川普那个stargate不知道还搞不搞 01/27 21:36
316F：→ IBIZA : AI市场目前绝大部分的资本投资 是布设平台给一般人 01/27 21:36
317F：→ IBIZA : 做商业使用 01/27 21:37
318F：→ rebel : 如果AGI是现有的演算法做不到的 你堆多少算力也都 01/27 21:37
319F：→ rebel : 没用 01/27 21:37
320F：推 AirLee : 以後的机器人无人机也还是需要晶片啊，TSM还是能捡 01/27 21:37
321F：嘘 kasimroll : 支那网军开始进攻喽 01/27 21:37
322F：→ junior020486: 可以99TSM吗 01/27 21:38
323F：→ AirLee : 过往程式语言的效率增加 硬体的需求还是越来越高 01/27 21:39
324F：→ AirLee : 硬体还是存在着前景 01/27 21:39
325F：→ AirLee : 还有子弹的 慢慢接接TSM就对了 01/27 21:39
326F：→ IBIZA : 过往因为硬体效能增加快 程式语言其实不太讲究效率 01/27 21:40
327F：→ IBIZA : 但这一次是软体效率突然增加50倍 01/27 21:40
328F：推 rebel : 软体还是很讲求效率啦...我们做code review不是做 01/27 21:45
329F：→ rebel : 假的 01/27 21:45
330F：→ IBIZA : 现在写程式哪需要像以前要把512K 1M榨乾.. 01/27 21:47
331F：→ antigidu : 中国用低廉的成本 卷爆欧美AI泡沫 01/27 22:07
333F：→ strlen : 微软哪来的没有自己训练AI............. 01/27 22:22
335F：→ strlen : 然後另一个问题是 现在这种等级的AI 到底有没有解决 01/27 22:23
336F：→ strlen : 使用者问题 使用者不管哪种架构是没错 但你AI有没有 01/27 22:23
337F：→ strlen : 真正解决使用者痛点 目前看起来 很早得很 01/27 22:23
338F：→ strlen : 就算我现在直接拿来当生产力工具 也只觉得堪用而已 01/27 22:24
339F：→ strlen : 更何况各行各业 看单单一个客服AI 现在的就没办法了 01/27 22:24
340F：→ strlen : 不然现在9成企业早就把客服通通换成AI 为何没发生？ 01/27 22:25
341F：→ strlen : 这样的AI 真的够了吗？自己好好想想吧 01/27 22:25
342F：→ kobebrian : 你确定大公司不会或没有在做自己的模型吗？ 01/27 22:51
343F：推 ksjr : 我是觉得硬体/其他研发的支出比例会改变拉 01/27 23:06
344F：推 c41231717 : DS这个算是AI的福特时刻啊 以前车子很贵 当变成家 01/27 23:50
345F：→ c41231717 : 家都能负担得起的时候 反而市场变更大了 车厂每个 01/27 23:50
346F：→ c41231717 : 都赚钱 且出现更多车厂 01/27 23:50
347F：推 ProTrader : 我觉得外行人对AI有些误解 我用无线电话类比 01/28 00:11
348F：→ ProTrader : 早年有巨无霸黑金刚无线电话在市场交易 01/28 00:12
349F：→ ProTrader : 有间厂商把巨无霸黑金刚的成本降成1/50会独霸市场?? 01/28 00:13
350F：→ ProTrader : 答案是被智障型手机霸主Nokia3310淘汰出局 01/28 00:14
351F：→ ProTrader : 有间厂商把智障型手机的成本降成1/500会独霸市场?? 01/28 00:15
352F：→ ProTrader : 答案是被苹果的智慧型手机淘汰 01/28 00:16
353F：→ ProTrader : 回到AI DS的成本是现有产品1/50能独霸市场?? 01/28 00:17
354F：→ ProTrader : 答案是会被下一代的AI模型淘汰 01/28 00:17
355F：→ ProTrader : 我认为觉得未来还会有更好更完备的AI模型问世 01/28 00:19
356F：→ ProTrader : 现在的AI模型终究会被淘汰 01/28 00:19
357F：→ ProTrader : DS作的事情称为演算法优化 这是资工人的基本工作 01/28 00:20
358F：→ ProTrader : 不需要因为政治立场否认DS的成果 01/28 00:22
359F：→ ProTrader : 有某个好模型资工人本来就会努力去开发快速演算法 01/28 00:23
360F：推 a10043305 : 天花板都还没看到就在想cost down 台湾人终究只能是 01/28 00:23
361F：→ a10043305 : 台湾人 01/28 00:23
362F：→ ProTrader : 但未来一但有更好的AI模型 现有演算法就会自动淘汰 01/28 00:24
363F：→ Sinkirou : 我宁愿相信狗吃屎也不相信中共 01/28 00:31
364F：→ redskyism : 这是一个简单数学问题，不用讲这麽多。一台电脑就能 01/28 00:35
365F：→ redskyism : 跑干嘛买十台，硬体供应商惨了！ 01/28 00:35
366F：→ cosplayH : 很急哦 01/28 00:59
367F：→ straggler7 : 不是所有人都追求0百加速 01/28 06:16