Soft_Job 板


LINE

最近OPENAI突然在幾天前宣布plus要限制字數,不然就卡幾小時 Pro的token數量比較多 可是要3000摳摳 請問大家有淪陷嗎? 還是寫程式公司會補助pro? --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.91.32.112 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1788029260.A.30D.html
1F:推 pponywong: pro方案很值 沒事還會reset用量 還會給你reset ticket 08/30 08:09
2F:→ pponywong: 因為太值了 我都直接開2~3個repo同時用codex 要不然根 08/30 08:10
3F:→ pponywong: 本用不完 08/30 08:10
喔喔!平常比較少寫程式,原來這麼划算喔?
4F:噓 USD5566: 這個 id直接噓就好 平常電影版洗不夠來這洗 08/30 10:42
5F:推 abc0922001: 我都用gemini 08/30 11:20
※ 編輯: arsl400 (219.91.32.112 臺灣), 08/30/2026 13:49:53
6F:推 ke265379ke: 上週我才碰到 chatgpt 算錯一個變數的代數問題….. 08/30 22:22
7F:推 awenracious: 公司有提供claude MAX 不過我自己也是訂閱了GPT pro 08/30 22:49
8F:推 Obama19: AI頂多拿來查資料吧 生產環境最好別用 08/31 01:34
9F:→ jobintan: 算力緊張(×)開割韭菜(○) 08/31 07:05
10F:→ pponywong: 你要AI直接算代數 錯誤的機率很高 因為他是文本產生器 08/31 09:33
11F:→ pponywong: 但是你可以較AI用python lapack解 或是用julia 08/31 09:34
12F:→ pponywong: 寫出script 跑答案比較快 08/31 09:34
13F:推 CoNsTaR: 自己跑 glm-5.3-flash, deepseek-v4-flash-0731 和 qwen3 08/31 11:23
14F:→ CoNsTaR: .8-flash-next,永遠不會被限制 08/31 11:23
15F:推 CoNsTaR: qwen3.8-flash-next 只要 80GB RAM 就可以跑 Q4 full con 08/31 11:26
16F:→ CoNsTaR: text 08/31 11:26
17F:推 shortoneal: 很有意思,以前網路時代大家把黏度高的客戶當高價值客 08/31 19:05
18F:→ shortoneal: 戶,AI時代反而是要趕走那些用的多的叫他們滾去自架 08/31 19:05
19F:推 samuel0330: 因為網路時代重度用戶為企業帶來價值,現在重度用戶 08/31 22:43
20F:→ samuel0330: 反而是讓算力成本爆增 08/31 22:43
21F:推 jobintan: CoNsTaR所說的80GB,所指的是RAM還是VRAM?兩者差很大。 09/03 07:03
22F:推 CoNsTaR: RAM+VRAM 總合大於 80GB 就可以,qwen3.8-flash-next 只 09/03 15:01
23F:→ CoNsTaR: 有 6b active parameters 所以就算大部分 parameters 都 09/03 15:01
24F:→ CoNsTaR: spill over 到 RAM 速度也不會太慢,你的 VRAM 只要能 09/03 15:01
25F:→ CoNsTaR: 放得下 kv cache 就可以,而且它有 51b 是 per layer emb 09/03 15:01
26F:→ CoNsTaR: edding,所以大概有 102GB 是可以直接從 SSD 串流,不需 09/03 15:01
27F:→ CoNsTaR: 要常駐在 RAM 的,所以才只需要 80GB RAM 09/03 15:01
28F:推 CoNsTaR: 265k context 的話 kv cache 只有 6.2 GB,所以就算你只 09/03 15:04
29F:→ CoNsTaR: 有 8GB VRAM 也行 09/03 15:04
30F:推 CoNsTaR: *256k 09/03 15:07
31F:推 CoNsTaR: 算錯,256k context Q8 kv cache 需要 14GB RAM,所以至 09/03 15:17
32F:→ CoNsTaR: 少要 16GB VRAM 才塞得下 256k kv cache,但如果你只用 1 09/03 15:17
33F:→ CoNsTaR: 28k context 雖然有點小,但 8GB 就夠了 09/03 15:17
34F:推 CoNsTaR: 然後有一個 AtomicChat 的 quant 他的 Q4 因為把 per lay 09/03 15:25
35F:→ CoNsTaR: er embedding 也算進 bpw,然後又用 bpw 來命名,所以只 09/03 15:25
36F:→ CoNsTaR: 要 56GB RAM 就可以跑 "Q4",雖然沒有統一的 KLD 跑分, 09/03 15:25
37F:→ CoNsTaR: 但是其他人的 Q4 KLD 大概都是 0.04,AtomicChat 的 Q4 09/03 15:25
38F:→ CoNsTaR: 是 0.08,比其他人的 divergence 高了一倍,但如果 RAM 09/03 15:25
39F:→ CoNsTaR: 吃緊,用 AtomicChat 的 quant 只要 16GB VRAM + 56GB R 09/03 15:25
40F:→ CoNsTaR: AM 也能號稱跑 Q4(但實際上更像 IQ2 或 IQ3) 09/03 15:25







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:e-shopping站內搜尋

TOP