作者shiauber (getting used to)
看板PC_Shopping
标题Re: [情报] 究竟是 PC 革命还是另一个昙花？浅谈 Win
时间Sun Jun 16 21:24:18 2024
稍微分享一下自己使用心得
目前
ms的copilot(企业版)
公司用
chatgpt(自己付费版)
自己电脑用
目前还是在LLM的module下使用
chatgpt大概屌打copilot一百万倍(？！
个人体感LLM能走到这一步，就已经可以宣判不懂AI的人，差不多倒了。
後续还会有更多的应用跑出来的，现在先给一个人机介面的沟通(LLM)，後续能发展出的产
值绝对会是指数成长。
可以有文字，再来就是图片，再来就是影片
所以老黄才可以这麽嚣张
也真的是他才可以这麽嚣张
nvlink 真的太豪洨了....
对於AI PC (个人端
短时间绝对可以为创作者先节省超多时间
伴随着其他module成熟的更快(这需要server用大量的data，这点跟AI PC没关系)
AI PC 就是等着这些 线上module optimal
本机端简单使用边缘运算
让创作者可以得到更好的成果
AI不是空谈，老黄已经把算力弄到太扯了。
当然这是理想
不过要让这种事情变成普世都懂的时间
大概就是後知後觉的人进场的时候？
4090先好好玩游戏就好了，届时晶片会跑多快，可能要先看家里网路有多快？
以後可能连普通inference都靠网路了。
极其隐私的才会保留在本地端？
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.161.209.244 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/PC_Shopping/M.1718544260.A.F38.html
1F：推 youarefat: ？ copilot功能上比chatgpt多不少捏101.12.150.87 06/16 21:36
我现在还在听微软上课 整合的太慢了...
office三宝 都整合不了 我就不想提了
2F：→ pig: 现况就是都靠网路啊，不然你的超猛chatgpt218.161.120.232 06/16 21:58
3F：→ pig: 是放阳台在跑吗？218.161.120.232 06/16 21:58
4F：推 ccps9550217: 小白问个问题 GPT是靠显卡去运算 会61.227.193.189 06/16 22:15
5F：→ ccps9550217: 不会出现像是类似挖矿一样 用个人显61.227.193.189 06/16 22:15
6F：→ ccps9550217: 卡跑运算赚钱？61.227.193.189 06/16 22:15
呃 我是觉得你的算力 相对於他们的算力 可以不用想太多
7F：推 LastAttack: 不喜欢线上运算。凭什麽要把指令、指104.28.232.15 06/16 22:17
8F：→ LastAttack: 令带来的输出成果这些东西，无偿分享104.28.232.15 06/16 22:17
9F：→ LastAttack: 给模型提供者104.28.232.15 06/16 22:17
没办法 一件事情就是正反两面都有
你也可以参考别人的算法
而且怎麽确定你想的别人没想到？
能够快速试错 这也是他们集合算力的优势，你自己跑了三天。人家3hr就跑完了
也许早就把你的算法算完了
10F：推 oppoR20: 不会 挖矿是一直套用演算法找到未知的东42.77.113.146 06/16 22:17
11F：→ oppoR20: 东42.77.113.146 06/16 22:17
12F：→ oppoR20: 你跑gpt就跑模型而已42.77.113.146 06/16 22:17
13F：→ oppoR20: 除非以後gpt有类似pcdn模式42.77.113.146 06/16 22:18
gpt只是一个文字接龙的module 光是他的衍生就玩到玩不玩了。
pcdn这种模式，我还没涉猎到有那个module有在用？
14F：推 yymeow: 就是付费网站给人家互动暗黑内容啊 :D114.37.2.212 06/16 22:20
这个会占9成的!!!
15F：推 chocoball: 单机跑slm可以一群人共用 也可能可以112.78.84.193 06/16 22:20
16F：→ chocoball: 赚钱吧112.78.84.193 06/16 22:20
没有反对自己跑 或是自己尝试UAlink 来试试看 但是要赚钱，挖矿如果还会赚钱，那也是N
VIDIA独赚
而NV貌似没有往这个方向前进，反而着重在更多更豪洨的算力
17F：推 ccps9550217: 再问个问题 挖矿有实际产出吗 还是单61.227.193.189 06/16 22:24
18F：→ ccps9550217: 纯付出资源换取比特币61.227.193.189 06/16 22:24
台湾电价可能不再适合挖矿了。
※ 编辑: shiauber (1.161.209.244 台湾), 06/16/2024 22:41:44
※ 编辑: shiauber (1.161.209.244 台湾), 06/16/2024 22:47:44
19F：推 aegis43210: 挖矿就是通货自由化，产出就是生产要 123.204.6.69 06/16 23:25
20F：→ aegis43210: 素移动的更便利123.204.6.69 06/16 23:25
21F：推 chysh: 回四楼，最近涨很凶的IO币就是你说的东西，106.1.117.179 06/16 23:43
22F：→ chysh: 查一下io.net就知道106.1.117.179 06/16 23:43
23F：→ fate201: copilot是和微软的系统深度整合114.43.42.227 06/17 00:17
24F：→ fate201: 不太好跟chatgpt的方向比吧114.43.42.227 06/17 00:18
真的狗干一下 MS的整合
可以整合的资源最多，整合却是最慢的
目前使用上。MS copilot真的很不顺。
用过chatpgt4o 真的不想再用M$
公司的企业版不用钱，不然送我也不会想用。
微软看起来也不急，如果文书三宝真的互相打通了 他三宝怎麽赚钱...
另外 M$的copilot理论基础也是基於gpt4
25F：→ Akabane: 你忘记AI吃超多电XD122.116.158.129 06/17 00:25
不要挖洞XD
台湾不缺电。
※ 编辑: shiauber (1.161.209.244 台湾), 06/17/2024 00:31:02
※ 编辑: shiauber (1.161.209.244 台湾), 06/17/2024 00:32:15
26F：→ ry3298: 为创作者节省时间-》老板裁员罗XDD111.248.128.184 06/17 00:33
这个看你的想法了
节省时间→代表产量可以增多
试错成本降低。降低开发周期
老板裁不裁你 跟AI无关
是老板看到的野心到哪里
※ 编辑: shiauber (1.161.209.244 台湾), 06/17/2024 00:46:44
27F：→ fate201: vs code和github copilot整得太好了114.43.42.227 06/17 02:04
28F：→ fate201: 现在都是架构问gpt4o 实作直接问copilot114.43.42.227 06/17 02:04
29F：→ aaron5555: 反正openai大金主也是微软 不管怎样他223.137.244.71 06/17 03:20
30F：→ aaron5555: 都是胜利者 223.137.244.71 06/17 03:20
31F：→ TryToBe: 你输入指令得出来的成果不也是享用别人的211.20.204.163 06/17 06:41
32F：→ TryToBe: 成果，都像你这样想那大数据哪里来211.20.204.163 06/17 06:42
33F：→ TryToBe: 你想自己搞，那就砸大钱搞本机端AI啊211.20.204.163 06/17 06:44
34F：→ sporocyst: 你这心得除了狂吹Ai外，怎麽都没有实例133.175.251.236 06/17 06:54
35F：→ littlefish1: 别人在讲的是买NPU浪费钱（多花钱买42.72.135.243 06/17 08:31
36F：→ littlefish1: 本地微弱算力），你在讲云端算力，42.72.135.243 06/17 08:31
37F：→ littlefish1: 有看过原本文章吗？42.72.135.243 06/17 08:31
38F：→ littlefish1: 没人在否认AI用处，而是钱要花对方 42.72.135.243 06/17 08:35
39F：→ littlefish1: 式。 42.72.135.243 06/17 08:35
40F：→ a27417332: 怎麽感觉ChatGPT会写的比这篇好 104.132.79.34 06/17 14:02
这样很好 再次验证GPT真的强大
41F：→ narukaza: 实际上本地算力本来就不差那颗NPU，一114.34.174.204 06/17 14:34
42F：→ narukaza: 张4090就可以抵13颗NPU以上的算力了(假114.34.174.204 06/17 14:34
43F：→ narukaza: 设NPU有100TOPS)，所以这就算有配套应114.34.174.204 06/17 14:34
44F：→ narukaza: 用，也还是个噱头 114.34.174.204 06/17 14:34
两件事情 NPU架构 跟cuda不同
可以用 TFOPS来判断效能
但module可以变 也可以调整
npu只是把cache内容换成几个
int8 跟int16
别忘了 AI起头也只是噱头
多少钱进去烧才是重点
45F：推 honokasohot: 商用office的copilot超废 用一个月就58.115.164.188 06/18 00:47
46F：→ honokasohot: 退掉了58.115.164.188 06/18 00:47
※ 编辑: shiauber (1.161.193.73 台湾), 06/20/2024 20:44:56