作者shiauber (getting used to)
看板PC_Shopping
標題Re: [情報] 究竟是 PC 革命還是另一個曇花？淺談 Win
時間Sun Jun 16 21:24:18 2024
稍微分享一下自己使用心得
目前
ms的copilot(企業版)
公司用
chatgpt(自己付費版)
自己電腦用
目前還是在LLM的module下使用
chatgpt大概屌打copilot一百萬倍(？！
個人體感LLM能走到這一步，就已經可以宣判不懂AI的人，差不多倒了。
後續還會有更多的應用跑出來的，現在先給一個人機介面的溝通(LLM)，後續能發展出的產
值絕對會是指數成長。
可以有文字，再來就是圖片，再來就是影片
所以老黃才可以這麼囂張
也真的是他才可以這麼囂張
nvlink 真的太豪洨了....
對於AI PC (個人端
短時間絕對可以為創作者先節省超多時間
伴隨著其他module成熟的更快(這需要server用大量的data，這點跟AI PC沒關係)
AI PC 就是等著這些 線上module optimal
本機端簡單使用邊緣運算
讓創作者可以得到更好的成果
AI不是空談，老黃已經把算力弄到太扯了。
當然這是理想
不過要讓這種事情變成普世都懂的時間
大概就是後知後覺的人進場的時候？
4090先好好玩遊戲就好了，屆時晶片會跑多快，可能要先看家裡網路有多快？
以後可能連普通inference都靠網路了。
極其隱私的才會保留在本地端？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.161.209.244 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1718544260.A.F38.html
1F：推 youarefat: ？ copilot功能上比chatgpt多不少捏101.12.150.87 06/16 21:36
我現在還在聽微軟上課 整合的太慢了...
office三寶 都整合不了 我就不想提了
2F：→ pig: 現況就是都靠網路啊，不然你的超猛chatgpt218.161.120.232 06/16 21:58
3F：→ pig: 是放陽台在跑嗎？218.161.120.232 06/16 21:58
4F：推 ccps9550217: 小白問個問題 GPT是靠顯卡去運算 會61.227.193.189 06/16 22:15
5F：→ ccps9550217: 不會出現像是類似挖礦一樣 用個人顯61.227.193.189 06/16 22:15
6F：→ ccps9550217: 卡跑運算賺錢？61.227.193.189 06/16 22:15
呃 我是覺得你的算力 相對於他們的算力 可以不用想太多
7F：推 LastAttack: 不喜歡線上運算。憑什麼要把指令、指104.28.232.15 06/16 22:17
8F：→ LastAttack: 令帶來的輸出成果這些東西，無償分享104.28.232.15 06/16 22:17
9F：→ LastAttack: 給模型提供者104.28.232.15 06/16 22:17
沒辦法 一件事情就是正反兩面都有
你也可以參考別人的算法
而且怎麼確定你想的別人沒想到？
能夠快速試錯 這也是他們集合算力的優勢，你自己跑了三天。人家3hr就跑完了
也許早就把你的算法算完了
10F：推 oppoR20: 不會 挖礦是一直套用演算法找到未知的東42.77.113.146 06/16 22:17
11F：→ oppoR20: 東42.77.113.146 06/16 22:17
12F：→ oppoR20: 你跑gpt就跑模型而已42.77.113.146 06/16 22:17
13F：→ oppoR20: 除非以後gpt有類似pcdn模式42.77.113.146 06/16 22:18
gpt只是一個文字接龍的module 光是他的衍生就玩到玩不玩了。
pcdn這種模式，我還沒涉獵到有那個module有在用？
14F：推 yymeow: 就是付費網站給人家互動暗黑內容啊 :D114.37.2.212 06/16 22:20
這個會佔9成的!!!
15F：推 chocoball: 單機跑slm可以一群人共用 也可能可以112.78.84.193 06/16 22:20
16F：→ chocoball: 賺錢吧112.78.84.193 06/16 22:20
沒有反對自己跑 或是自己嘗試UAlink 來試試看 但是要賺錢，挖礦如果還會賺錢，那也是N
VIDIA獨賺
而NV貌似沒有往這個方向前進，反而著重在更多更豪洨的算力
17F：推 ccps9550217: 再問個問題 挖礦有實際產出嗎 還是單61.227.193.189 06/16 22:24
18F：→ ccps9550217: 純付出資源換取比特幣61.227.193.189 06/16 22:24
台灣電價可能不再適合挖礦了。
※ 編輯: shiauber (1.161.209.244 臺灣), 06/16/2024 22:41:44
※ 編輯: shiauber (1.161.209.244 臺灣), 06/16/2024 22:47:44
19F：推 aegis43210: 挖礦就是通貨自由化，產出就是生產要 123.204.6.69 06/16 23:25
20F：→ aegis43210: 素移動的更便利123.204.6.69 06/16 23:25
21F：推 chysh: 回四樓，最近漲很兇的IO幣就是你說的東西，106.1.117.179 06/16 23:43
22F：→ chysh: 查一下io.net就知道106.1.117.179 06/16 23:43
23F：→ fate201: copilot是和微軟的系統深度整合114.43.42.227 06/17 00:17
24F：→ fate201: 不太好跟chatgpt的方向比吧114.43.42.227 06/17 00:18
真的狗幹一下 MS的整合
可以整合的資源最多，整合卻是最慢的
目前使用上。MS copilot真的很不順。
用過chatpgt4o 真的不想再用M$
公司的企業版不用錢，不然送我也不會想用。
微軟看起來也不急，如果文書三寶真的互相打通了 他三寶怎麼賺錢...
另外 M$的copilot理論基礎也是基於gpt4
25F：→ Akabane: 你忘記AI吃超多電XD122.116.158.129 06/17 00:25
不要挖洞XD
台灣不缺電。
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:31:02
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:32:15
26F：→ ry3298: 為創作者節省時間-》老闆裁員囉XDD111.248.128.184 06/17 00:33
這個看你的想法了
節省時間→代表產量可以增多
試錯成本降低。降低開發週期
老闆裁不裁你 跟AI無關
是老闆看到的野心到哪裡
※ 編輯: shiauber (1.161.209.244 臺灣), 06/17/2024 00:46:44
27F：→ fate201: vs code和github copilot整得太好了114.43.42.227 06/17 02:04
28F：→ fate201: 現在都是架構問gpt4o 實作直接問copilot114.43.42.227 06/17 02:04
29F：→ aaron5555: 反正openai大金主也是微軟 不管怎樣他223.137.244.71 06/17 03:20
30F：→ aaron5555: 都是勝利者 223.137.244.71 06/17 03:20
31F：→ TryToBe: 你輸入指令得出來的成果不也是享用別人的211.20.204.163 06/17 06:41
32F：→ TryToBe: 成果，都像你這樣想那大數據哪裡來211.20.204.163 06/17 06:42
33F：→ TryToBe: 你想自己搞，那就砸大錢搞本機端AI啊211.20.204.163 06/17 06:44
34F：→ sporocyst: 你這心得除了狂吹Ai外，怎麼都沒有實例133.175.251.236 06/17 06:54
35F：→ littlefish1: 別人在講的是買NPU浪費錢（多花錢買42.72.135.243 06/17 08:31
36F：→ littlefish1: 本地微弱算力），你在講雲端算力，42.72.135.243 06/17 08:31
37F：→ littlefish1: 有看過原本文章嗎？42.72.135.243 06/17 08:31
38F：→ littlefish1: 沒人在否認AI用處，而是錢要花對方 42.72.135.243 06/17 08:35
39F：→ littlefish1: 式。 42.72.135.243 06/17 08:35
40F：→ a27417332: 怎麼感覺ChatGPT會寫的比這篇好 104.132.79.34 06/17 14:02
這樣很好 再次驗證GPT真的強大
41F：→ narukaza: 實際上本地算力本來就不差那顆NPU，一114.34.174.204 06/17 14:34
42F：→ narukaza: 張4090就可以抵13顆NPU以上的算力了(假114.34.174.204 06/17 14:34
43F：→ narukaza: 設NPU有100TOPS)，所以這就算有配套應114.34.174.204 06/17 14:34
44F：→ narukaza: 用，也還是個噱頭 114.34.174.204 06/17 14:34
兩件事情 NPU架構 跟cuda不同
可以用 TFOPS來判斷效能
但module可以變 也可以調整
npu只是把cache內容換成幾個
int8 跟int16
別忘了 AI起頭也只是噱頭
多少錢進去燒才是重點
45F：推 honokasohot: 商用office的copilot超廢 用一個月就58.115.164.188 06/18 00:47
46F：→ honokasohot: 退掉了58.115.164.188 06/18 00:47
※ 編輯: shiauber (1.161.193.73 臺灣), 06/20/2024 20:44:56