作者Zzell (n/a)
看板Stock
标题Re: [请益] 这波无限下杀真正的原因是什麽？
时间Thu Jul 30 15:06:01 2026
想问懂技术的人
LLM本质就是大型语言机率机
LLM的曙光自动化aka agentic AI，是由人类输入自然语言
经由条件设定和机率计算，让LLM吐出程式看得懂的指令去操作程式
所以其实就跟人类直接下指令或手动操作没有两样
只是差别在人类手速比较慢/知识可能不足
另外因为是机率机
同样的input「一定」会产出不同output（指的是文本不是答案）
所以必须加入纠错机制，叫LLM针对output做自我验证
所以本质上
agent就是用含有世界所有知识的机率机
去暴力破解人类就能解决的基础问题
而且因为必然要有的纠错机制，所以会消耗大量token
这个理解有错吗？
如果我的解释是对的，那我是真的想像不到
除了coding外（coding本质就是语言，而且有大量范本可学习，所以LLM的正确率高）
原理如此原始的东西要怎麽转化为LLM未来在商业上的利润
这不就像把内涵为穷举法的程式包装成高阶的密码破解软体来卖一样吗
求打脸
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 61.228.239.152 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1785395164.A.D77.html
1F：推 tomdavis : 每次的输出都是只输出下一个字 07/30 15:07
2F：→ tomdavis : 要拿到整句话你就要把输出再重新丢进去拿到下一个字 07/30 15:08
3F：→ tomdavis : 丢一句话进去 模型算出机率最大的下一个字後输出 07/30 15:09
4F：推 EvilJustice : 其实不只coding ，其实你可以问ai 07/30 15:10
5F：推 tsubasawolfy: 你觉得高度电脑化的社会 掌握电脑能干嘛 07/30 15:11
呃
我是问技术上我的理解跟比喻是不是对的
6F：→ h9602b : 所以还有其他流派，像世界模型，最有名的像杨立琨 07/30 15:12
7F：→ h9602b : ，就批评在LLM投入太多资金，但最後走不到AGI 07/30 15:12
8F：推 tomdavis : 纠错机制 模型没有这一块 07/30 15:12
所以我问的是agent，或者精确一点是说商品化後的Agent
9F：→ fallinlove15: 你这题简单 可以先问AI增加问题深度 07/30 15:12
10F：推 tv5566 : 知识的传递 不然你要问老塞喔 ai就正解 没看ㄧ堆a 07/30 15:12
11F：→ tv5566 : i影片了 ai音乐 以为只有coding 07/30 15:12
12F：→ tv5566 : 以後就是各种加速开发 07/30 15:13
agent agent agent (哭)
13F：→ tomdavis : 消耗token只是因为要重复把一串字不断的重新进模型 07/30 15:13
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:14:32
14F：推 capssan : 你现在之所以会看到不同的output 是因为input其实 07/30 15:14
15F：→ capssan : 有不同 07/30 15:14
16F：→ tomdavis : agent就想成管家 帮你排程各种工作由哪种模型进行 07/30 15:15
17F：→ DarkerDuck : 人类直觉系统一思考也是这样运作的好吗 07/30 15:15
18F：嘘 bandit12344 : 懂技术的都知道现在走势偏空 07/30 15:15
19F：→ tomdavis : 例如你的个人终端的agent可以安排任务给云端处理 07/30 15:16
agent可以帮我看信发信
这我看很多了
但why 跟 at what cost?
20F：→ tomdavis : 至於agent有没有纠错机制 也是没有 07/30 15:16
没有会很惨吧，一定有啦
只是可能在软体预设的初始指令里面
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:17:55
21F：→ tomdavis : 如果云端LLM都无法分别错误 agent本身也不会做得到 07/30 15:17
22F：推 airmike : 其实LLM本质就是人类知识文本的压缩软体 只是这个压 07/30 15:17
23F：嘘 deepelves : ASIC设计电路可以用AI了阿 07/30 15:18
24F：→ airmike : 缩演算法是复杂到数兆元神经元的变化才能描述其机率 07/30 15:18
26F：→ tomdavis : 由agent来拆分整个任务 可以避免输入过长 省token(X 07/30 15:18
27F：→ tomdavis : 输入过长也会影响到模型输出的正确性 07/30 15:19
喔喔
我说的纠错是，LLM回头再问自己一次，自己的答案是不是对的，这种
28F：→ airmike : 预测变化 所以只要还是transformer架构 我是不认为 07/30 15:19
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:19:36
29F：推 DustToDust : 因为这样可以卖更多的蒜粒啊 07/30 15:19
30F：→ airmike : LLM具备真正的创意 他只是比个人强 上限是全人类文 07/30 15:19
31F：→ tomdavis : LLM回头再问自己一次答案是不是对的 算是还在研究(X 07/30 15:20
32F：→ airmike : 本知识可推理论述的极限 当然这样也很恐怖了 只要 07/30 15:20
33F：→ abyssa1 : 大部分的顾问产出也都是文字图表而已啊 07/30 15:20
34F：→ abyssa1 : 法律 财金 会计 商务合约 投资报告 07/30 15:20
单纯拿模型来input应该用不到agent（虽然底层可能有agent啦但先不谈）
我不是说LLM的能力
而是agent照我的理解变成吃token怪兽
商业化更困难
35F：推 theurgy : LLM即使达不到AGI 也能利用LLM取代工程师或增加工程 07/30 15:20
36F：→ theurgy : 师产出或用LLM发明AGI 那能确定的是你的铲子有各种 07/30 15:20
37F：→ theurgy : 用途不是只有铲LLM 现在就是白痴花街说我要看到AI赶 07/30 15:20
38F：→ theurgy : 快变现 然後引发一系列砸盘而已 07/30 15:20
金融上过不去就是一定要跌啊
代表当初就不该涨
不代表花的钱是错的
39F：→ airmike : 不是真正跳空创意从无发想的事情 通通它都能匹配 07/30 15:20
40F：→ tomdavis : 有几种尝试是 用另一个LLM去看输出有没有问题 07/30 15:20
41F：→ abyssa1 : 律师可能还有表演的成份 07/30 15:20
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:21:57
42F：推 EvilJustice : Neuro-Symbolic AI 07/30 15:23
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:26:05
43F：推 tomdavis : agent的作法本意是可以拆分任务减input长度省资源 07/30 15:26
我记得龙虾是超级吃token怪兽
现在有优化了吗
44F：推 tsubasawolfy: 自我纠错那个不如说数学模型就那样 记得李宏毅有集 07/30 15:26
45F：→ tsubasawolfy: 就在讲自我修正的算法 只是那个算法初衷真的... 07/30 15:26
46F：→ tsubasawolfy: 让我觉得这东西竟然可以运作真是玄 07/30 15:27
47F：推 airmike : Agent的本意如前面讲的 其实是拆分任务 专攻一个LLM 07/30 15:27
48F：→ airmike : 小范围不会出错的子任务来提高成功率 但是老美吹的 07/30 15:27
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 15:28:14
49F：→ airmike : 时候都喜欢把Agent讲成AGI跑高大上的东西 所以token 07/30 15:28
50F：→ airmike : 消耗量极大 因为你只能让它对着自己的output不断 07/30 15:28
51F：→ airmike : review。Review失败，顺着自己失控的论述去玩就会像 07/30 15:28
52F：→ airmike : OAI被人抓包的攻击这样 其实LLM Agent不知道自己在 07/30 15:29
53F：→ airmike : 干嘛 只是一直接龙你给他的逻辑论述玩下去 07/30 15:29
因为在商业语言上的agent这个名词的内涵
指涉的是自动化，而不是高效小范围的代称了
我主要是用这个语境在讲
54F：推 rebel : 本质上没错啊 但你的理解太狭碍了 不是只有语言 现 07/30 15:29
55F：→ rebel : 在LLM产图 影片不也是吓吓叫 中间要经过一层转化 L 07/30 15:29
56F：→ rebel : LM就像大脑 你的大脑是不是也能处理语言 图像 声音 07/30 15:29
LLM只是叫diffusion模型来产图ㄅ
57F：推 WESTONE : 举个危险的思想，如果人是商品，你要怎麽卖？现在ai 07/30 15:31
58F：→ WESTONE : 商业化的路就是如此。 07/30 15:31
59F：推 asadman1523 : 其实你会这样想 赢过很多人了 07/30 15:31
60F：→ rebel : 李宏毅老师的公开影片应该是可以解答你99.9%的问题 07/30 15:31
61F：→ rebel : 真想研究就去学习一下 07/30 15:31
暴言一下
出现一堆叫人去问AI跟叫人去看影片的回应
对我来说是一种高度泡沫化的徵兆
有点类似擦鞋童理论
62F：→ rebel : 那产图模型的底层你认为是什麽 XD 07/30 15:32
基於transformer但就不是LLM啊
因为LLM的涌现效果
现在才有这种全人类广泛应用的想像
才会进阶到LLM你想串什麽就能有什麽这种蓝图
拿个产图来讲跟我的内容无关
63F：推 dogalan : 并非穷举 同样input也不一定会出现不同output 07/30 15:33
64F：→ rebel : 可是连功课都不做 不就跟不爬文一样吗？真的想理解 07/30 15:34
65F：→ rebel : 做点基本的功课是必要的吧 07/30 15:34
66F：→ dogalan : LLM确实并非完美的做法 也有很多限制 但我认为这是 07/30 15:35
67F：→ dogalan : 因为目前发展还不够成熟的原因 就像你说的coding就 07/30 15:35
68F：→ dogalan : 能做到正确率比较高 表示本质上并不是LLM不能做到 07/30 15:36
我知道LLM本质不是穷举
但在agent应用上我觉得很像
因为就是一定要try到正确为止（如果正确率不高谁敢用）
69F：推 tomdavis : 龙虾token多那个以我的认知是一直再使用不同任务 07/30 15:36
70F：→ tomdavis : agent能拆分任务省token 但完成任务依然要花token 07/30 15:37
71F：→ rebel : 目前多数人也不认为只靠LLM就可以达成agi 但只要接 07/30 15:37
72F：→ rebel : 近或是赢过人类的话 LLM含各种变型应该是够用 07/30 15:37
73F：→ tomdavis : LLM简单想成 海量的transformer单元组成庞大模型 07/30 15:37
我知道LLM的本质
所以我只讲agentic AI (老黄说的那种）
在商业应用上是不是势必会消耗大量token
这应该是能否获利的关键吧
74F：推 dogalan : 还有目前传统的很多商业模型靠的就是你说得如此原始 07/30 15:38
75F：→ tomdavis : 大脑 vs 神经元 约等於 LLM vs transformer 07/30 15:38
76F：→ dogalan : 原理的东西 但价值在於降低时间、成本、操作门槛和 07/30 15:39
77F：→ dogalan : 知识传递成本 所以不能直接推出没有足够商业价值 07/30 15:39
78F：→ tomdavis : agent除非你这样定任务目标 不然不会try到正确为止 07/30 15:39
79F：→ tomdavis : 商业应用上会不会消耗大量token 看任务类型 07/30 15:40
80F：推 rebel : LLM就是把transformer 串起来阿怎麽无关了 07/30 15:40
81F：→ tomdavis : 以及能不能根据任务类型去最佳化流程省token 07/30 15:40
82F：→ dogalan : agent实际上并没有一直"try"到正确为止 07/30 15:40
我在写的时候有内化了几个背景条件没有讲清楚，my fault
1. token成本不低（我不说很高，因为其实资讯不透明而且未来会降）
2. agent要「商业化」，正确度要很高才可以，不然没有人敢大规模使用
83F：→ tomdavis : agent就是全丢给云端LLM太费token才生出来的解法 07/30 15:40
agent不代表一定是地端...吧?
84F：→ tomdavis : 另外 重复把东西给模型再确认通常不会提升正确度 07/30 15:42
85F：→ tomdavis : 只是浪费token 07/30 15:42
agent的目的是要正确的指令（行为），而不是正确的答案
如果要介入人类行为，为了避免那1%或10%错误
而必然需要纠错的机制
这个理解有误吗？
86F：→ tomdavis : 不一定是地端 但可以把难的工作拆出来给大的模型做 07/30 15:43
87F：→ tomdavis : 简单的子任务可以给小的模型做 07/30 15:44
88F：推 bloodashih : 具体看你做啥 但你说的反覆无谓烧token的情形存在 07/30 15:44
89F：→ bloodashih : 是因为使用不当 而非必要 07/30 15:44
90F：→ bloodashih : 条件限制可做在应用端 给如同员工一样的权限或审批 07/30 15:45
91F：→ bloodashih : 流程让人介入 07/30 15:45
92F：→ bloodashih : agent作业形式可由很多小专家组成，也可云对端协同 07/30 15:47
93F：→ bloodashih : 作业 07/30 15:47
94F：推 dogalan : 纠错机制不一定要靠agent自己来做 就像你说的coding 07/30 15:48
95F：推 r30385 : 所以你的时间成本很低吗？ 07/30 15:48
96F：→ batterykugua: 看起来这里提到的agent实际上指的是subagent 07/30 15:55
97F：推 tomdavis : 可以把agent+llm视为ㄧ整包模型 你还是把任务给模型 07/30 15:56
98F：→ tomdavis : 只是这模型有拆分任务 省资源给出答案 07/30 15:57
99F：推 tomdavis : 如果你的纠错是指检查模型答案是否正确合理 那agent 07/30 16:01
100F：→ tomdavis : 并没有做这一部分 07/30 16:01
101F：推 tomdavis : 另外你的疑虑是任务使用的token 成本到底有没有比人 07/30 16:07
102F：→ tomdavis : 去做便宜 试过了才知道要多少token 也才能比较成本 07/30 16:07
103F：→ tomdavis : 模型做任务的正确率也是需要实际试过 07/30 16:08
104F：→ tomdavis : 另外也有可能类似海运vs空运 人vs模型 速度也要考虑 07/30 16:10
我发现我的措辞可能不太对
我想说的是
「包含agent的应用产品」
不是像现在这样单纯卖算力，你想怎麽用自己去串（这不可能商业化的）
而是给一个application，卖的是output不是中间的原理
因为文书工作的AI要商业化，不可能用token这种黑箱的东西去计价
105F：→ abc21086999 : 理解有错啊，你的预设是「用现有的资料训练的东西 07/30 16:14
106F：→ abc21086999 : 无法突破现有的状况」 07/30 16:14
107F：→ abc21086999 : 但前几天那个证明猜想不就示范给你看了 07/30 16:14
那是高阶科研
我讲的是文书工作
这还需要训练什麽吗？
不都是怎麽串api跟怎麽设计prompt的问题
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 16:22:48
108F：嘘 CaptPlanet : 话都说不清楚要讨论什麽 07/30 16:25
109F：推 tomdavis : 包含模型的产品 微软 估狗 甲骨文 亚麻 的云端客户 07/30 16:27
110F：→ tomdavis : 这些人正在尝试开发中 看最後谁能稳定赚钱 07/30 16:27
111F：→ tomdavis : Token 的价钱有明码标价 但特定任务平均花多少不知 07/30 16:29
112F：→ tomdavis : 道 07/30 16:29
然後我随便Google跟问AI
都说agentic AI会花数倍甚至到千倍的token数
这个问题现在还是进行式还是得到解决了
主要就是这点根本没有人能有任何说服力的数字来佐证R
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 16:31:35
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 16:32:16
113F：→ potionx : 粗浅就算投入/产出比较 只是这个过程是动态的... 07/30 16:51
114F：推 keven92110 : 我感觉现在比较像大脑已经很强但身体还没做起来欸， 07/30 16:58
115F：→ keven92110 : 已经很强的coding代表他可以根据环境即时coding对 07/30 16:58
116F：→ keven92110 : 应的行为做行动，这应该蛮有想像空间的？ 07/30 16:58
117F：推 Colitas : 我只想问你，觉得人脑是什麽？ 07/30 18:17
我从头到尾讲的都是成本
为什麽会出现这个问题
※ 编辑: Zzell (61.228.239.152 台湾), 07/30/2026 18:48:59
118F：推 plaay : 这类变现问题要去问经营者们 回答格局可能完全不同 07/30 19:27
119F：→ plaay : 抠细节我想讨论不出个什麽 07/30 19:29
120F：→ comebuy01 : 你那些问题该解决的是使用者的用法，但这不是几行 07/30 21:34
121F：→ comebuy01 : 推文能讲清楚的，所以有人叫你去看影片从基础观念 07/30 21:34
122F：→ comebuy01 : 学起，顺道一提，如果跟人类沟通都这麽模糊，用AI 07/30 21:34
123F：→ comebuy01 : 势必会花更多token跟时间 07/30 21:34
124F：嘘 s942816 : 比喻错了，现在比较像是捡到枪的人，去打劫没枪的人 07/30 21:35
125F：→ s942816 : ，或是去砍古代人 07/30 21:35