作者y2468101216 (芸)
看板Soft_Job
标题Re: [讨论] chatGPT会取代软体工程师吗?
时间Tue Mar 7 16:39:01 2023
提供一个有趣的观点
在 堆叠溢出 的网站有关於一则公告内容是禁止 chatgpt 回文。
底下有一个 AI 研究员的论点很有趣。
https://meta.stackoverflow.com/questions/421831/
temporary-policy-chatgpt-is-banned?cb=1
有意愿看英文详细的可以直接搜寻TL;DR，第三个就是了。
我这边简单叙述大意
stackoverflow 应该禁止所有 AI 回文，因为 chatgpt 是基於 stackoverflow 上
训练的，如果 stackoverflow 不禁止会导致无法训练 2022 年以後的 AI，
因为 AI 无法分辨训练资料这是 AI 回文还是人类回文，会导致 Circular reasoning。
这意味着 AI 还是是需要真正人类的资料去训练，如果不训练就无法进步。
除非你的公司有 FAANG 一样大，不然我不认为可以训练出足够强大的 offline
chatgpt。
我觉得这个论点很有趣的地方在於，实务上你是无法禁止AI回文的，也就是说 AI 训练
会出现一个死胡同，越强的语言模型会被滥用的越严重，最终会有一个上限。
我大概可以猜测为何使用 stackoverflow 训练，因为有问题有答案，答案还
大部分都有标准解答，跟 chatgpt 与你聊天的模式有点像。
简单来说你想用 chatgpt 解决工程师就会有鸡生蛋，蛋生鸡的问题。
你开除工程师，就没训练资料可用，没训练资料可用的 chatgpt 就不能产生 code
最终还是要请工程师开发。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.226.10.119 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1678178344.A.05B.html
1F：推 quickbym1: 酷 03/07 17:09
2F：推 RayLeeRock: 很有意思的观点 03/07 18:27
3F：推 ohmylove347: 可以换个角度，能被AI回答的问题，本身就属於 已解决 03/07 18:34
4F：→ ohmylove347: /烂问题 ，比起禁止AI回答，不如说是禁止能被AI轻易 03/07 18:34
5F：→ ohmylove347: 解答的问题发文，像是Quora好像就有导入相关使用 03/07 18:34
6F：→ GoalBased: 禁的原因是因为错误率太高但是回答品质又高。我在revie 03/07 18:51
7F：→ GoalBased: w 的时候都会觉得是高品质的回答但答案却是错的 03/07 18:51
8F：→ GoalBased: 而且那种code 会有人觉得写的很好，但其实在很多情况下 03/07 18:56
9F：→ GoalBased: 会出bug 03/07 18:56
10F：推 JaccWu: 简单来说 AI回文可能导致从自己身上学习 03/07 19:02
11F：→ JaccWu: 使得既有的错误被强化这样？ 03/07 19:02
12F：→ JaccWu: AI自己污染了训练资料 03/07 19:03
13F：→ jonathan793: 不认同 因为最後答案还是人去标的 如果ai回错了就不 03/07 19:40
14F：→ jonathan793: 会被当成训练资料 03/07 19:40
15F：→ superpandal: 所以闭源好 自己写的又跟别人写的很不一样 03/07 20:52
16F：→ superpandal: 黑魔法就是赞 03/07 20:55
17F：推 yueayase: 赞，这表示工程师的思路才是真正有价值的地方 03/07 21:34
18F：推 shortoneal: 所以标仔也得是个高手，不然难一点的问题你连判断他 03/07 21:47
19F：→ shortoneal: 对不对都没办法 03/07 21:48
20F：→ bnd0327: 挑点赞率高的答案就好啦，哪需要人肉标 03/07 22:58
21F：推 TAKADO: 就是训练时拿已经被AI标过的资料再回去喂AI，或是两套AI户 03/07 23:22
22F：→ TAKADO: 喂资料，就会发生各种神奇现象。 03/07 23:22
23F：推 maypcc: 不会啊，因为2022後又不是只有chatgpt回文 03/08 01:01
24F：→ maypcc: 还是会有真人回 03/08 01:01
25F：推 now99: 拿奇摩知识+的资料训练不知道会走钟成什麽样子 03/08 01:27
26F：推 stu51211: 有趣的切入点 学习了 03/08 03:10
27F：→ eva19452002: 再训练新的AI来判断是AI回文或是人类回文不就好了 03/08 05:58
28F：→ ku399999: 6楼才是对的 03/08 06:31
29F：推 EKman: 就是ai 还不够强大啊，似懂非懂要怎麽用 03/08 08:31
30F：→ EKman: 跟死胡同是不同的两个问题 03/08 08:31
比较好的做法确实是挑打勾的答案，目前这个结论是推测 chatgpt 没有这样做。
至於不这样做的原因不知道，我猜是因为要更多训练资料吧。
因为这个是语言模型，不是 coding ai。
※ 编辑: y2468101216 (1.171.133.82 台湾), 03/08/2023 10:13:52
31F：推 jobintan: 如果ChatGPT的相关数据是出於StackOverflow的话，那麽， 03/08 10:16
32F：→ jobintan: StackOverflow应该有权要求ChatGPT付费。 03/08 10:17
33F：→ lycantrope: chatGPT就很适合用在产ptt废文 头头是道但内容错误 03/08 10:32
34F：推 jason017050: 说的真好 03/08 11:39
35F：→ Ekmund: chatgpt商用的话 有权要他支付授权费用的单位会多到爆... 03/08 12:29
36F：→ Ekmund: 相较於图文创作和数据 code可能反而还好 03/08 12:33
37F：→ bheegrl: 取代版上废文应该是没问题了，至少还头头是道 03/08 12:34
38F：推 jay123peter: 有趣的文章！ 03/08 13:12
39F：→ ku399999: 简单理解一下gpt原理就知道为什麽他不这麽做 03/08 13:20
40F：→ ku399999: 他根本不理解自己在输出什麽 03/08 13:21
41F：→ DrTech: 我还以为这是常识耶，本垒就不可能取代工程师，不然谁产生 03/08 13:26
42F：→ DrTech: 资料…。取代的是搜寻参考资料的时间而已。取代的是Google 03/08 13:26
43F：→ DrTech: 搜寻的使用次数而已。 03/08 13:26
44F：推 keepxha: 被取代的是google！？ 03/08 14:10
45F：→ onlyeric23: 是啊 谷歌都快哭了 03/08 23:15
46F：推 viper9709: 原来是这样 03/09 00:12
47F：推 siriusu: 推 03/09 00:27
48F：推 papple23g: 对耶 03/09 00:59
49F：推 brucetu: 非监督跟reinforcement的模式不会有这个问题 03/09 01:56
50F：→ brucetu: 只要他的目标是code能满足功能 加上可读性维护性optimize 03/09 01:57
51F：→ brucetu: 还是可以左右互搏就像练围棋一样 03/09 01:57
纯 code 我觉得不好用，本来就有 copilot，但是你不是每天都要处理 code。
比如如何配置 database ，配置 nginx 之类的。
copilot 也不能帮你建议这段 code 如何优化，还有帮你处理提案，
处理 commit message。
然後我觉得像围棋那样是不能的，围棋规则近年没有大变动，
程式语言改个版可能就不一样了，比如 golang 1.18 增加的泛型，这个 AI 没资料肯定
写不出来。
我最近让 chatgpt 写 redis match 语法都会写错了，更何况是新特性。
※ 编辑: y2468101216 (36.226.25.90 台湾), 03/09/2023 11:24:02
52F：推 wuliou: 有意思 03/09 21:28
53F：推 dannyko: 我喜欢这个想法 03/10 08:52
54F：推 supersnoII: 目前是这样没错，但算法会进化的 03/13 10:59