作者oopFoo (3d)
看板Soft_Job
标题Re: [讨论] 软体工程师这条路，是不是走到尽头了？
时间Wed Jul 2 08:25:06 2025
再强调一次，现在的ai是有用的，但问题太多，离取代还很遥远。
Yann Lecun已经讲超过一年了，不要再花时间在LLM上，我们需要更先进的架构。
https://www.techbang.com/posts/122728-yann-lecun-not-interested-in-llms-focuses-on-ai-hard-problems
"
谈到 AI 未来真正的挑战，LeCun 清楚地指出了四个他认为至关重要、但目前尚未有令人满意解答的领域。
第一是对物理世界的理解。他举了一个极简的例子：当人看到一个瓶子，知道推它会滑，敲它会弹，这些都是我们从小累积的世界模型。但今天的 AI，无论是从图片、影片还是文字中，都无法真正掌握这些「常识」。
第二个挑战是持久记忆。大多数 AI 系统处理输入时是一次性的：输入 → 推理 → 输出。它不会记得你上一秒说了什麽，更无法累积对世界的长期观察与认知。而人类的记忆，正是推理与学习的基础。
第三，则是最根本也最具哲学意味的问题：推理。LeCun 对现今所谓「agentic AI」的批评颇为严厉。他认为让模型生成一堆答案，再从中选出最可能正确者，根本不是推理，而是暴力试错。他说这种方法就像「乱写程式然後看哪个跑得动」，低效而粗糙。
第四个挑战则是规划能力。真正的智能不只是对当下做出反应，更能思考未来。他形容：「如果 AI 能够在内部模拟一个世界，然後根据某个假设行动去预测未来的结果，那它就能计划达成目标的最佳路径。」而这，才是人类做决策的真正方式。
"
现在ai写程式的卖点是，程式师规划大纲，让"agentic ai"小段小段的暴力尝试，还有很长的context length来记得interaction。然後你可以有百个，千个ai帮你写程式，绝对是比自己写有效率。
但是，百个，千个ai垃圾，出来的还是垃圾。瓶颈还是在人类做判断，哪个可以留下，哪个抛弃。结果花的时间并没有减少。
现在是"工人ai"在推进llm如之前po在本版的工作。
https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1739017637.A.EA3.html
Meta刚花14.5b投资Scale AI，为什麽？因为"工人 data labeling"才是目前的重点。
当初gpt横空问世的时候，不是"工人ai"马上要被淘汰了，怎麽现在越来越值钱？
现在ai就是「Fake it till you make it」。如同自驾一样，每年都是自驾元年，喊个10年20年，迟早会对的。
现在就是一堆坏人跟外行人在吹AI。我们实际了解的人，还在找适当的地方使用。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 58.114.66.74 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1751415911.A.CB9.html
1F：→ jeffguoft: 槽点好多 07/02 08:56
2F：推 ku72: 靠AI赚钱的会来嘘你 XD 07/02 10:16
3F：→ Suleika: 3是把乱写的人洗掉，4是需要人下决定，我是觉得4才是根 07/02 10:54
4F：→ Suleika: 本原因，找关连找相似肯定出包 07/02 10:54
5F：→ Suleika: 工程不可能用这种方式全自动化不用人 07/02 10:58
6F：推 strlen: 工业革命前前後後也是花了一百年 照现在发展速度 我看20年 07/02 11:03
7F：→ strlen: 你要说明年或後年整个软体产业就爆掉当然不会啦 07/02 11:04
8F：推 dream1124: 推，但第二点那样讲话会给信徒追杀。 07/02 14:17
9F：推 devilkool: 不少公司正在努力挑战第二点 07/02 18:19
10F：推 sunsamy: 上次我叫AI帮我改写程式,它写得我一时看不出对错 07/02 18:42
11F：→ sunsamy: 但compile後没有一行对,我都要一行一行去改,这是什麽? 07/02 18:43
12F：推 Morphee: 讲一堆，还是吊lecun的书袋子，没有个人想法，谁知道是 07/02 22:02
13F：→ Morphee: 不是学派之争呢 07/02 22:02
14F：推 dani1992: 现在的发展速度可没有工业革命快 07/02 22:45
15F：推 NDark: 楼上是穿越者从1840年来的 07/02 22:48
16F：推 KAOKAOKAO: 但杨立昆是不是失宠了？ Superintelligence Lab 07/02 23:35
17F：→ oopFoo: 杨立昆没失宠，他是科学家，做的是基础研究。Llama2弄完後 07/03 08:08
18F：→ oopFoo: 他就对llm失去兴趣。 07/03 08:08
19F：→ oopFoo: 我自己各种peek & poke 这些models。除了Cot是有意思，其 07/03 08:11
20F：→ oopFoo: 它只是强化在rlhf上。搞半天"工人ai"或类"expert system" 07/03 08:13
21F：→ oopFoo: 又重新再来。 07/03 08:13
22F：→ Obama19: 这个人争议很多 自己思考一下 07/03 09:11
23F：→ Obama19: 不要觉得他是权威 就对他的话全盘接受 07/03 09:12
24F：推 dani1992: 去看对於工业革命时期全生产要素的增加速度估计 07/03 10:00
25F：→ dani1992: 跟现在比一下不就知道了，查资料很难吗 07/03 10:00
26F：推 pkro12345: 推 07/07 12:38