作者derekhsu (浪人47之华丽的天下无双)
看板Stock
标题Re: [请益] AI到底是遇到什麽问题？
时间Sat Aug 3 07:39:41 2024
※ 引述《neo5277 (I am an agent of chaos)》之铭言：
: 虽然这版是投资版，但是我觉得技术问题，还是先跟投资切开来比较好一点。
技术跟应用场景的问题我不谈，之前的人已经谈过了，大致上没有问题。
不同领域的人可能体验不太一样，但LLM普及的程度并没有这麽低，具体而言，主要是 ChatGPT ，在部分领域已经是不可或缺的必要工具，到了挂掉会影响到正常工作或不能工作的程度。
首先是 coding，就我而言，至少有50%的程式码已经是由 ChatGPT 完成的，遇到 bug 我几乎没有再用 Google 或是 stackoverflow ，log 直接丢进 ChatGPT , 大部分情况下它都能大幅减少我的工作时间。
除了遇到有关於 pydantic 的问题，因为这个 module 最近出了V2，模型的回答经常会混合V1的答案，而且傻傻分不清楚，在之前旧的没有纳入 pydantic 的版本时，这问题更为严重，必须要自己先提供文件用RAG 让它知道。
但是就我实际的观察周边的人，发现LLM 对於低阶的工程师，高阶的工程师的帮助个别显着，但是对於中阶工程师而且有使用上的困难。
低阶的工程师处理的是低阶的问题，本来基础就不好，LLM本身的能力就能超越这些低阶工程师。
高阶工程师的能精准的知道自己需要的是什麽，哪些部分可以透过LLM来做比较快，那些自己来做比较不会出错。懂得如何 prompting ，做问题拆解，所以也能很好的利用到LLM的好处。
而中阶工程师就会卡在不上不下的状况，低阶的工作可以自己处理，但是有时候要处理高阶工作时不知道要怎麽问LLM，不晓得怎麽做问题拆解，不知道怎麽为 LLM 的回答加入 constraints，那LLM的回答就经常不会是自己想要的答案，甚至是会绕远路，简单来讲，就是不会发问，因为处理高阶问题时，问出正确的问题，提供正确的限制式很重要。
我举例来说，我自己做RAG的系统，很多人问问题的方式不是在问问题，而是提供几个关键字，当作搜寻引擎在用，那回答的品质当然不好，这也是为什麽 OpenAI 还要做 SearchGPT 的原因之一。
同样的状况，也会发生在其他会大量使用到 LLM 的领域上面，必须学术研究。
我不相信现在还有大学生研究生不用 ChatGPT 的，但是但是它肯定也是只能对高阶跟低阶用户比较有用，中阶用户因为不懂得问题拆解以及提问技巧，得到的有可能是无法让人满意，甚至可能是抄袭出来，虚构的答案，而这些是中阶用户很难判断的。
LLM具体应用的场景绝对已经深入到某些领域而且已经无法回头了。
现在的问题是为了持续扩大这个领域，各家公司必须持续军备竞赛，所以成本居高不下。
使用单位大量缺乏问题拆解能力以及提问能力的人无法渗透，即便现在有透过 multiagent 的技术试图让LLM能自己做问题拆解，但LLM的大局观仍远不如人类。
其实这就有点类似围棋之前的状况，LLM善於最後的收官阶段，却没有大局观不擅长整体布局，直到 AlphaGo 出现之後达到技术突破。
AIPC是各家CPU公司试图让自己从NVIDIA 没有多少投入的 To C市场突破的一个行销方式，我仍称这种是行销方式是我认为 CPU ＋ NPU 这种应用在PC上面除了拿来做指纹辨识，脸部辨识，这种通用应用以外，To C的NPU场景还没有那种我不得不用，不用会完蛋的那种应用。
而这种应用在NVIDIA的To B场景下已经有很多了。
如果OpenAI减缓研发脚步，停止让LLM普及化的烧钱，专注於特定领域的应用，肯定可以很快的改善获利，问题是这不是一个可以停下来的情况，谁能达到下一个阶段的突破，谁就能吃下整个市场。
所以我认为不是LLM应用场景不足，而是目前投入成本不但高，而且根本停不下来。
-----
Sent from JPTT on my Vivo V2124.
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.8.37.233 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1722641986.A.4BF.html
1F：推 hansaqa : 认同啊，软体从业人员已经无法不用，产出速度和品 08/03 07:52
2F：→ hansaqa : 质都是数倍於以往。多的时间ㄏㄏㄏ 08/03 07:52
3F：推 seemoon2000 : 你说的情境 就是满多人说的 99分的人会变得更有效率 08/03 07:54
4F：→ seemoon2000 : 30分的人会大跃进变70分 原本70分的人可能只变80分 08/03 07:54
5F：推 jyhfang : 推 强的或更能善加利用的会更有优势 没跟上的人自己 08/03 07:56
6F：→ jyhfang : 看着办 08/03 07:57
7F：推 panda816 : 认同 现在烧钱就是在抢先做出一个适合大众使用的模 08/03 08:08
8F：→ panda816 : 型 一旦成功所有市场都是一家独吃 08/03 08:08
9F：推 duane : 我看法相反欸 增加效率并不代表获利增加 08/03 08:18
10F：→ duane : 例如娱乐 广告 或至於专利 因为实际上饼并不会爆发 08/03 08:19
11F：→ duane : 性成长 08/03 08:19
12F：推 duane : AI真的有显着助益反而是在专业领域 例如生技医药研 08/03 08:22
13F：→ duane : 究 08/03 08:22
14F：→ duane : 比较有机会带来突破爆发的可能性 08/03 08:23
15F：推 ss218 : 码农效益增加对获利没什麽太大帮助 顶多可以多裁2个 08/03 08:24
16F：→ ss218 : 省钱 08/03 08:24
17F：推 kutkin : 就像扫描器 键盘 只是减少文员的雇用 08/03 08:32
18F：→ kutkin : 办公室行政人力下降 08/03 08:33
19F：推 neil0611 : 创造失业率 呵呵 08/03 08:47
20F：推 duane : 不见得提高失业率，可能比较关於个人较有益。那麽就 08/03 09:08
21F：→ duane : 是一种服务。那麽要花多少钱买这服务而已 08/03 09:08
22F：推 mdkn35 : 原Po能否提几个“高阶”问题作为范例？ 08/03 09:16
23F：推 crowley : chatgpt就是帮你统整网路上资料的小帮手 实际上工 08/03 09:17
24F：→ crowley : 作的内容还是有很大一部分是需要自己发想的 08/03 09:17
25F：推 Sawilliam : 程式设计开发 快真的很多 有些杂事的code 自己写要 08/03 09:17
26F：→ Sawilliam : 一两个小时 丢给gpt 改一改 5分钟内搞定 08/03 09:17
27F：→ jayemshow : 有站在从业人员角度看XD 产品要能赚大钱就是要跟智 08/03 09:24
28F：→ jayemshow : 慧型手机一样 小到小朋友 大到阿公阿嬷都在用 你软 08/03 09:24
29F：→ jayemshow : 体业从业人员全地球占比才几% 08/03 09:24
30F：推 hillgod : 以这篇来说AI是个工具，这工具会用的人会觉得很好 08/03 09:27
31F：→ hillgod : 用 08/03 09:27
32F：推 ishdtt598 : 我外国朋友开的软体小公司被ai写程式打败了 帮QQ 08/03 09:29
33F：推 Sawilliam : 文书处理 书信 美术 影片等也都可以处理.. 08/03 09:30
34F：推 zick8932511 : 对的时间炒股 08/03 09:32
35F：推 doranako : 目前工程师的市场成长，但其他就都还没看到市场， 08/03 09:43
36F：→ doranako : 其他像ai可以替代部分客服问题，就不需要那麽多客 08/03 09:43
37F：→ doranako : 服人员 08/03 09:43
38F：推 ck326 : 公司可以多裁几个玛农省钱而已，嘻嘻 08/03 09:45
39F：推 nikolas : 以前可能要花一天时间写的程式。现在有AI，可能只 08/03 09:46
40F：→ nikolas : 需要一个小时 08/03 09:46
41F：→ paul10404 : 你讲的是ai让工程师失业了，不是ai怎麽赚钱 08/03 09:52
42F：推 CCPenis : 看起来AI让部分工程师准备失业了== 08/03 09:57
43F：推 baddaddy : 投资人的问题是你花多少钱在ai上 08/03 09:57
44F：→ benson502 : 问题是AI根本还赚不了钱，投入上千亿美，连诈骗阿 08/03 10:01
45F：→ benson502 : 祖的车尾灯都看不到 08/03 10:01
46F：推 js850604 : 减少员工就是减少成本，24HR还不用劳基法不用各种 08/03 10:08
47F：→ js850604 : 员工福利，获利大提升 08/03 10:08
48F：推 Liberl : 降低成本这件事就是一种效益 08/03 10:12
49F：→ Liberl : AI还没带来商业模式 但降低成本是正在发生的事 08/03 10:12
50F：推 japanmuta : 推 08/03 10:15
51F：推 sdbb : 推这篇，码农会觉得AI好用是因码农本身熟悉使用方式 08/03 10:19
52F：→ sdbb : 一般人觉得AI无用，是因一般人不熟悉使用方式 08/03 10:19
53F：→ sdbb : 觉得有潜力的，自然会去学 08/03 10:20
54F：推 iamala : 码农还是不要自称工程师吧…工程师是几百年前就有 08/03 10:23
55F：→ iamala : 的优秀职业。 08/03 10:23
56F：→ derekhsu : 高阶问题范例：打造一个可用的ERP系统，我想建立一 08/03 10:24
57F：→ derekhsu : 个CRM平台… 08/03 10:24
58F：→ derekhsu : 越高阶的问题越需要细部拆解成各种可以处理的子问题 08/03 10:25
59F：→ aloness : 听起来是苦力型的程设人员可以多砍几个… 08/03 10:35
60F：→ aloness : 但是成品售价不会因此拉高…？ 08/03 10:36
61F：推 andre9 : 我也是 08/03 10:38
62F：→ aloness : 对业绩有帮助就两个方向，一是创造高利润产品，一 08/03 10:38
63F：→ aloness : 是降售价但大量销售，这能做到哪个？ 08/03 10:38
64F：推 neomaster : 我文组 试用chatgpt 似乎是把网路上有的资料加以整 08/03 10:41
65F：→ neomaster : 合 我比较把它看成是一个有整理的资料库 08/03 10:41
66F：→ neomaster : 平常人可以拿来查一些资料是很好用 但如果是学生/ 08/03 10:41
67F：→ neomaster : 研究员使用也好用吗 机器给你是整合好的资料 至於 08/03 10:41
68F：→ neomaster : 来龙去脉都不清楚 不会有心虚的感觉吗 08/03 10:41
69F：推 sdbb : AI的用途不是只有chatgpt 08/03 10:45
71F：→ derekhsu : 研究员当然也很好用，因为他们问问题绝对跟菜鸟不一 08/03 11:27
72F：→ derekhsu : 样 08/03 11:27
73F：推 huabandd : 大家都想抢这块饼自然竞赛很凶 08/03 11:28
74F：→ dslite : 跟你老板讲 薪水付一半给你就好 08/03 11:29
75F：→ huabandd : 抢得凶就算了，问题是老黄晶片更新有够快 08/03 11:29
76F：→ huabandd : 不更新又怕追不上，於是更烧钱 08/03 11:29
77F：→ aloness : 重演.com时代的困境 08/03 11:38
78F：推 louner : 想不到会在股版看到pydantic 我也被这鬼东西搞过好 08/03 11:55
79F：→ louner : 几次 08/03 11:55
80F：→ unima : 没AI币！算心酸的。 08/03 12:20
81F：→ derekhsu : v1 v2不相容超靠北 但最惨的是 FastAPI 新版依赖v2 08/03 12:21
82F：→ bojan0701 : 应该能造成降价，因为工程师可少聘，但工程师占成 08/03 12:25
83F：→ bojan0701 : 本比例低，难大量降价。期待看到其他领域AI有大突 08/03 12:25
84F：→ bojan0701 : 破...认识两个顶博做AI开发应用 东西差异大 一般人 08/03 12:25
85F：→ bojan0701 : 要驾驭这工具 可能没这麽容易。 08/03 12:25
86F：推 neo5277 : 但是我们终究是少数人，不管事chatgpt或是gitcopilt 08/03 13:05
87F：→ neo5277 : 用爽爽，占他现金流就是只有一点点，基金会或是2B 08/03 13:07
88F：→ neo5277 : 订阅，就像买office或是IDE订阅那样不会有大的 08/03 13:08
89F：→ neo5277 : 继续发展我是100%赞成，我不知道股东跟董事CEO 08/03 13:09
90F：→ neo5277 : 挺不挺得住~~ 08/03 13:09
91F：推 RIVERSHAKE : 程式写得好要饭要到老 这是以前戏谑的顺口溜 08/03 13:51
92F：→ RIVERSHAKE : 把写程式的过程变得更有效率 称不上突破性的应用 08/03 13:51
93F：推 mdkn35 : 如果你说的高阶是指管理阶层 LLM给一个预设值的框架 08/03 14:46
94F：→ mdkn35 : 那确实是 但发生问题或要改新东西 管理阶层肯定完蛋 08/03 14:46
95F：→ derekhsu : 高阶问题是概念性问题需要细部拆解的问题 08/03 15:46