作者oopFoo (3d)
看板Soft_Job
標題Re: [討論] 軟體工程師這條路，是不是走到盡頭了？
時間Wed Jul 2 08:25:06 2025
再強調一次，現在的ai是有用的，但問題太多，離取代還很遙遠。
Yann Lecun已經講超過一年了，不要再花時間在LLM上，我們需要更先進的架構。
https://www.techbang.com/posts/122728-yann-lecun-not-interested-in-llms-focuses-on-ai-hard-problems
"
談到 AI 未來真正的挑戰，LeCun 清楚地指出了四個他認為至關重要、但目前尚未有令人滿意解答的領域。
第一是對物理世界的理解。他舉了一個極簡的例子：當人看到一個瓶子，知道推它會滑，敲它會彈，這些都是我們從小累積的世界模型。但今天的 AI，無論是從圖片、影片還是文字中，都無法真正掌握這些「常識」。
第二個挑戰是持久記憶。大多數 AI 系統處理輸入時是一次性的：輸入 → 推理 → 輸出。它不會記得你上一秒說了什麼，更無法累積對世界的長期觀察與認知。而人類的記憶，正是推理與學習的基礎。
第三，則是最根本也最具哲學意味的問題：推理。LeCun 對現今所謂「agentic AI」的批評頗為嚴厲。他認為讓模型生成一堆答案，再從中選出最可能正確者，根本不是推理，而是暴力試錯。他說這種方法就像「亂寫程式然後看哪個跑得動」，低效而粗糙。
第四個挑戰則是規劃能力。真正的智能不只是對當下做出反應，更能思考未來。他形容：「如果 AI 能夠在內部模擬一個世界，然後根據某個假設行動去預測未來的結果，那它就能計劃達成目標的最佳路徑。」而這，才是人類做決策的真正方式。
"
現在ai寫程式的賣點是，程式師規劃大綱，讓"agentic ai"小段小段的暴力嘗試，還有很長的context length來記得interaction。然後你可以有百個，千個ai幫你寫程式，絕對是比自己寫有效率。
但是，百個，千個ai垃圾，出來的還是垃圾。瓶頸還是在人類做判斷，哪個可以留下，哪個拋棄。結果花的時間並沒有減少。
現在是"工人ai"在推進llm如之前po在本版的工作。
https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1739017637.A.EA3.html
Meta剛花14.5b投資Scale AI，為什麼？因為"工人 data labeling"才是目前的重點。
當初gpt橫空問世的時候，不是"工人ai"馬上要被淘汰了，怎麼現在越來越值錢？
現在ai就是「Fake it till you make it」。如同自駕一樣，每年都是自駕元年，喊個10年20年，遲早會對的。
現在就是一堆壞人跟外行人在吹AI。我們實際了解的人，還在找適當的地方使用。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1751415911.A.CB9.html
1F：→ jeffguoft: 槽點好多 07/02 08:56
2F：推 ku72: 靠AI賺錢的會來噓你 XD 07/02 10:16
3F：→ Suleika: 3是把亂寫的人洗掉，4是需要人下決定，我是覺得4才是根 07/02 10:54
4F：→ Suleika: 本原因，找關連找相似肯定出包 07/02 10:54
5F：→ Suleika: 工程不可能用這種方式全自動化不用人 07/02 10:58
6F：推 strlen: 工業革命前前後後也是花了一百年 照現在發展速度 我看20年 07/02 11:03
7F：→ strlen: 你要說明年或後年整個軟體產業就爆掉當然不會啦 07/02 11:04
8F：推 dream1124: 推，但第二點那樣講話會給信徒追殺。 07/02 14:17
9F：推 devilkool: 不少公司正在努力挑戰第二點 07/02 18:19
10F：推 sunsamy: 上次我叫AI幫我改寫程式,它寫得我一時看不出對錯 07/02 18:42
11F：→ sunsamy: 但compile後沒有一行對,我都要一行一行去改,這是什麼? 07/02 18:43
12F：推 Morphee: 講一堆，還是吊lecun的書袋子，沒有個人想法，誰知道是 07/02 22:02
13F：→ Morphee: 不是學派之爭呢 07/02 22:02
14F：推 dani1992: 現在的發展速度可沒有工業革命快 07/02 22:45
15F：推 NDark: 樓上是穿越者從1840年來的 07/02 22:48
16F：推 KAOKAOKAO: 但楊立昆是不是失寵了？ Superintelligence Lab 07/02 23:35
17F：→ oopFoo: 楊立昆沒失寵，他是科學家，做的是基礎研究。Llama2弄完後 07/03 08:08
18F：→ oopFoo: 他就對llm失去興趣。 07/03 08:08
19F：→ oopFoo: 我自己各種peek & poke 這些models。除了Cot是有意思，其 07/03 08:11
20F：→ oopFoo: 它只是強化在rlhf上。搞半天"工人ai"或類"expert system" 07/03 08:13
21F：→ oopFoo: 又重新再來。 07/03 08:13
22F：→ Obama19: 這個人爭議很多 自己思考一下 07/03 09:11
23F：→ Obama19: 不要覺得他是權威 就對他的話全盤接受 07/03 09:12
24F：推 dani1992: 去看對於工業革命時期全生產要素的增加速度估計 07/03 10:00
25F：→ dani1992: 跟現在比一下不就知道了，查資料很難嗎 07/03 10:00
26F：推 pkro12345: 推 07/07 12:38