作者oopFoo (3d)
看板Soft_Job
标题Re: [讨论] 用AI写code产生的疑问
时间Wed Mar 29 10:36:13 2023
※ 引述《Suleika (Suleika)》之铭言：
: 相信对新技术具有敏锐度的各位，
: 在这几个月都有使用过AI来帮忙写code，
: 但在使用过程中不经有一个问题一直回荡在我的脑海中：
: 「AI帮我快速生成一个feature的模板，
: 我在修改的过程中就像在做code review，
: 公司还需要找初阶工程师吗？」
: 不晓得各位高手们是怎麽看待这个问题的？
https://news.ycombinator.com/item?id=35316526
这篇展示ChatGPT的威力与限制。
他问Bing如何raycast一个有displacement map的geometry.
原po问到最後，答案是不可能或给错误的程式。
下面有人回答他把原po的问提去问ChatGPT4，说得到很好的解决。
https://pastebin.com/PPy4vMrU
-----------------------------------------------------------
程式不错，看来有解决，但其实不然。Displacement map是"per pixel"的效果，你用"per vertex"来运算是毫无意义。
这题一开始的假设就错了。"per pixel"只能在gpu里运算，想在cpu raycast "per pixel"的效果，黑人？.jpg
这也是目前LLMs的问题，它其实逻辑能力不行，但有庞大的知识。如果你问的问题不在知识里？那就是盲人带领盲人走入死巷。
以前我读过一段很有道理的话。Programmer’s job is NOT to write code; Programmer’s job is to solve problems。结果现在一堆人一直在写CRUD
现在AI写code的风潮，其实是软体工程的失败。我们一直在强调DRY，REUSE.....结果现在用AI来重复生成同样的程式码，觉得比较有效率？
在某方面这是这是20多年来软体发展大倒退的结果。以前HyperCard，VB，GUI Builder，4GL把非程式师带进来开发软体，软体元件一副要起飞的样子。结果现在Web Component有人知道？有人用吗？
我目前不担心AI写code，现在看来只会制造更多智障问题需要更多的程式人员解决。
如果哪天AI真能取代人类，没工作不是我们需要考虑的问题。
我觉得LLMs很棒，有很多应用用途。但.....
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.231.130.220 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1680057379.A.630.html
1F：推 vi000246: 很棒啊 让AI产生垃圾 再让工程师收烂摊 03/29 10:54
2F：→ vi000246: 让大家知道AI不能取代工程师 03/29 10:54
3F：推 loadingN: 确实 web仔只会CRUD才在担心这个 03/29 10:57
4F：推 ab4daa: 太好了 以後有更多bug可以解 03/29 11:04
5F：推 Confusa: 今天问的是通用AI才是这个结果，未来一定会有专门写各种 03/29 11:41
6F：→ Confusa: code训练有素的AI出现 03/29 11:41
7F：→ oopFoo: 自驾还需要几年？LLMs离真正理解code还要几年？LLMs为何无 03/29 12:13
8F：→ oopFoo: 法解决"幻想"问题？真正能code的AI还很遥远。 03/29 12:13
9F：→ oopFoo: 我觉得LLMs很好用，但现在写code，代替search，方向错了 03/29 12:15
10F：推 Beersheep: 喜欢你对 reuse/dry 那段下的论点 03/29 12:29
11F：推 ededws1: 路上很多餐饮店，并不是每间都要有饭店厨师的能力 03/29 12:31
12F：→ ededws1: 写软体需求越来越大，当然只能多找一些堪用的人才 03/29 12:33
13F：推 tennyleaz: 确实 03/29 12:49
14F：→ f26724309: 推盲人带盲人进死巷 咏唱咒文念对很重要 03/29 14:38
15F：推 nfsong: 你把这篇喂给chatGTP. 他就又进化了 03/29 15:05
16F：→ nfsong: 来个人喂公子吃.... 03/29 15:05
17F：嘘 KanzakiHAria: 喔 那一堆文组已经用AI在coding做产品的是平行世界? 03/29 16:41
18F：推 hidog: 楼上方便介绍个由ai开发完成的专案吗 03/29 17:34
19F：→ Firstshadow: 楼楼上指的是chatbot吗 蛤 o’_’o 03/29 17:47
20F：推 viper9709: 推这篇 03/29 17:48
21F：推 qwe78971: 哪个产品是AI做的 让我看看 03/29 20:20
23F：推 frrr: AI确实很难解决一点点需要逻辑的问题 03/29 21:51
24F：推 GTRNO1: 嗯…你应该不太懂 你先把Open-Ended Learning Leads to Ge 03/30 02:46
25F：→ GTRNO1: nerally Capable Agents这篇看懂 再来讨论AI能不能写code 03/30 02:46
26F：推 marsantony: AI目前无法保证百分百正确，提供思路与框架方便而已 03/30 09:22
27F：→ marsantony: 如果真的有没有人工review的AI专案，我也想看看 03/30 09:23
28F：推 testPtt: 用来代替搜寻引擎感觉还不错 03/30 10:00
29F：→ realbout: AI不是用来解决问题?那大家对AI的期望是? 03/30 10:21
30F：推 OnlyRD: 不会啊，AI可以生成片段的程式，而且风格近似，光 03/30 12:37
31F：→ OnlyRD: 是这样就减少很 03/30 12:37
32F：→ OnlyRD: 多打字跟review的功夫。 03/30 12:37
33F：嘘 strlen: 软体工程的失败？你说失败就失败？你谁阿你？ 03/30 14:21
34F：→ strlen: DRY大家都有在做好吗？重点不是DRY这观念 重点是DRY要切割 03/30 14:22
35F：→ strlen: 到多细小 共用模组要怎麽切 这是永远没有一个银弹的问题 03/30 14:22
36F：→ strlen: 你仔细去想想为什麽会有重复的code 不是因为大家想重复好 03/30 14:23
37F：→ strlen: 吗？是因为真实世界的需求就是有无穷多种 03/30 14:23
38F：→ strlen: 你模组切太大块 就没办法应付多样化的需求 切太小 又是跟 03/30 14:24
39F：→ strlen: 没切一样 这你要怎麽解决？讲那麽多 终究还是要回归需求面 03/30 14:24
40F：→ strlen: 这完全跟什麽逻辑一点关系也没有 也跟CRUD一点关系也没有 03/30 14:25
41F：→ strlen: 今天还是有大量CRUD码农 就是因为实务端需求面太多样化了 03/30 14:26
42F：→ strlen: 跟效率也没任何关联 整篇完全不知所云 大概是云工程师吧 03/30 14:27
43F：推 GTRNO1: 看起来就是学店毕业+小公司的工程师心得感想 03/30 23:09
44F：推 hidog: 上面几楼贬低别人学经历的做法还蛮糟糕的 03/31 07:05
45F：推 pedestrianA: 这跟搜寻引擎不同东西 没有谁代替谁 03/31 12:32
46F：嘘 darkMood: 目前不就是快速剪贴簿而已，一堆人一直吹屁啊 03/31 12:58
47F：→ oopFoo: 现在的LLMs比较像"群体的智慧"。会是一个很好的另一个意见 03/31 17:40
48F：→ oopFoo: 但太多的"幻想"，对不熟练的人，反而有害。 03/31 17:42
49F：推 acenova: 国外论坛有看到在ML跟AI领域深耕多年的工程师，写道目前 04/01 00:55
50F：→ acenova: OpenAI释出的版本还是弱化版本的，而且他也不晓得为什麽 04/01 00:55
51F：→ acenova: OpenAI要去弱化这块，他说现在的AI已经完全可以做到解决 04/01 00:57
52F：→ acenova: 问题这一段了，也许我们过段时间就能看到他说的那个版本 04/01 00:58
53F：→ oopFoo: OpenAI是一直在持续训练Model，东西会更强。LLMs有很多 04/01 11:17
54F：→ oopFoo: 意想不到的功能，如有点逻辑，有点会算术。但这条路是有 04/01 11:19
55F：→ oopFoo: 极限的。像Llama好像有特地训练算术的部份，就表现比GPT3 04/01 11:23
56F：→ oopFoo: 好。但知识是无限的，现在这种训练方式能达到AGI吗？我是 04/01 11:25
57F：→ oopFoo: 持保留态度。就像自驾碰到瓶颈一样，LLMs需要更多的研究与 04/01 11:26
58F：→ oopFoo: 发展。就目前而言LLMs是很有用的。但问错方向，给垃圾答案 04/01 11:30
59F：→ oopFoo: 是很大的问题与研究课题。 04/01 11:31