我是觉得固然当前系统基础上有一些问题存在,但不妨碍它仍旧具有一定基础能力 反正都是演进阶段,不如说只是先理解缺陷然後尝试解决的过程(当然苹果怎麽想我不知道) 就当前阶段来说就已经略具破坏性了,啊如果还"更有能力"... 反正我是跟不上 以下偏题,一些感想 以及我觉得再来因为演进的关系大概会进一步细分,当前主谈"算力" 就我经验上来说我自己逐渐觉得"认知资源"会是接下来比较着重的方向,算力只是底层基础 上下文容量也是认知资源的一个要素 当前系统架构下,它这人(AI)冻结在某个时空点上(训练完成当时) 接下来的所有行为都不具有记忆,这时候认知资源就是关键(你可以说是记忆力) 你要让它有记忆以模拟人类,当前系统下就是"文件"就是这个记忆载体 (我是初入门程式设计,所以基本上概念有缺或重复请包含) 但是,这个认知资源此时就很要命了,对日常使用openai用户对其记忆能力大概没什麽 限制感受(除非一些研究阅读大量文字内容的情况) 如果是使用Cursor ai(或者vscode cline插件),加上特殊要求下感受就会很凸显 什麽特殊要求? 就比方说让它先读取专案说明书、让它模拟当助理(协助开发者) 像我初入门程式设计,连专案自己掌握都有困难就是了(? 尤其自己造的不满意还进行 架构重构(而不是直接从0重新打造,像是30层大楼内有20层下到装潢上到管线改建似的) 这时候过程中就需要消耗大量认知资源(读取各处程式码抓BUG或理解怎麽重建) 它还要记得我专案原始目标是什麽、哪些东西在哪里,甚至基於助理要求,还要请它协助 记忆工作进度,为了追踪工作进度或者重构,说明书跟笔记就要更新,甚至协定一些呼叫 用语,我说什麽代表什麽意思,我用什麽关键字代表什麽工作流程要请它开始RUN起来 以上所有行动都消耗认知资源,然後看着那个当前上下文TOKEN数值就很紧张 (尤其Cursor ai的是半残的,2.5FLASH号称1M,用上80K就感觉不行了,还不说Cursor自己 还有内部的上下文剪除机制,Cline的api呼叫免费的是有限的(还经常无法呼叫,太多人 使用),付费的用不起,之前小用一下看使用量统计18M,等我做起大事业再说) 简单讲基本上现在AI基础能力是...算足够利用的(当然说要更专业的大概不行) 但认知资源不是,要让AI更具助理级辅助性值不够用,TOKEN也贵的要死(这是LLM架构的 先天缺陷暂时闪不掉,你对话累积1M TOKEN,代表你接下来问他"一次"就是1M TOKEN丢上去) 在想办法掰回来(? 总之,现在架构下LLM的假思考能力说真的一般人也用不起,如果架构不变,2.5 FLASH 思考输出定价1M > 3.5美元...压到0.35美元还可能一些 除了基础算力是重点,认知资源怎麽扩大也是个问题(但又会撞到注意力问题) 所以除了GPU,HBM? 最後赞叹一下,Google真的伟大(Cursor ai是2.5Flash免费用,google api也有限制的 免费调用) --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.39.50.229 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1750045524.A.E8F.html 没错,而且连带现在操作google搜寻有时候自己还要切换一下"模式" 毕竟AI问答直接说,GOOGLE搜寻要想关键字 而例如程式设计要问题处理也是它可以自己帮你捞,事後还可以问它是怎麽理解的,它就 变老师了,现在更多时候障碍倒是来自於自己不问 还可以手把手教你XD 请他直接作说明书、参考书都没问题,想要补充就补 有时候我自己会有个心理障碍,这任务好像会花一些资源,不知道要不要处理,然後就想想 不对阿,是在环保什麽这样 有喔 有订阅,TOKEN只是一个对话阶段中的限制问题而已其实 之所以使用2.5Flash是因为呼叫其他专业模型次数是有限的,一个月才500次(超过会变慢 速模式,但听说有潜规则是用越多越慢),非必要都是呼叫2.5Flash 我初入门很多无效操作跟沟通需要(? https://i.meee.com.tw/Z7DOmvi.png 努力中XD ※ 编辑: k1k1832002 (114.39.50.229 台湾), 06/16/2025 12:42:20