Stock 板


LINE

※ 引述 《teddy98》 之銘言: : 黃仁勳NVIDIA,濫用VRAM 容量來壟斷市場。手法惡質、黑心! : : 他企圖讓每一張卡的效能剛好精準地卡在某個價位。 : : 如果你想多跑一點 AI 模型或開更高解析度 : : 這張卡的顯存就會「剛好」爆掉,逼你必須加錢買更高一階, : : 甚至買貴 5 到 10 倍的專業工作站卡。 : : : 但是隨著記憶體X6壓縮技術問世 : : 使得硬體資產重估:七巨頭(微軟、Meta、亞馬遜...)過去兩年瘋狂囤積 H100。如果壓 : 縮技術普及, : 原本需要 6 台伺服器的算力,現在 1 台就能達成。 : : 效能倍增:壓縮不只省空間,還能減少資料傳輸量。這意味著目前的 PCIe 頻寬或 HBM頻 : 寬會顯得「變寬了 6 倍」,大大提升運算效率,降低能耗。 : : MEM 壓縮 X6 本質上是一種 「由軟體定義的硬體升級」。它會讓輝達透過 VRAM 容量建 : 立起來的定價權瞬間化為烏有。 看 AI 發展不能只看現狀 LLM 每4-6月就大改版, 眼光得放到兩三年後。 記憶體壓縮技術帶來的並非硬體需求縮減 而是讓上下文長度與模型能力直接翻六倍 這種技術突破只會誘發更大量的 AI 採用, 當模型變得更好用、更普及時 DRAM 的總體需求量反而會噴發得更厲害。 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.213.34 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1774528130.A.B94.html
1F:推 sdbb : 台肯 03/26 20:32
2F:推 bear753951 : 就跟上次的ds一樣,好用的ai只會造成更多人用而已 03/26 20:40
3F:推 h0103661 : 可以讀跟讀的懂是兩回事,上下文佔用大小變1/10不 03/26 20:40
4F:→ h0103661 : 代表注意力能放大10倍== 03/26 20:40
5F:推 holysong : 日肯,ai爆發記憶體才開始缺貨 03/26 20:52
6F:噓 amingfirst : 一個記憶體 各自表述 大家都很會講 時間來證明啦 03/26 20:53
7F:→ amingfirst : ㄏ 03/26 20:53
8F:推 heyjude1118 : 看資本支出能不能在新技術衝擊前回收 03/26 20:56
9F:→ hutten : 如果這能讓AI進步,那AI需求不是飽滿而是進入更高速 03/26 21:11
10F:→ hutten : 發展 03/26 21:11
11F:推 jen1121 : 記憶體之於AI應用就像錢一樣,有人嫌多? 03/26 21:45
12F:→ StarRoad : 想從60分變90分,砸錢不手軟;但現在要再花一倍的 03/26 21:54
13F:→ StarRoad : 錢變95分,可就不一定划算了。所以不是說瓶頸少了 03/26 21:54
14F:→ StarRoad : 就代表更多投入 03/26 21:54
15F:→ abuu0929 : 6倍是跟古老的模型比,實際頂多降低25% 03/26 22:02
16F:推 js850604 : 硬體需求永遠不嫌多,向來是硬體限制軟體發展 03/26 22:15
17F:推 TRYING : 不要小看人類的欲望 CC 03/26 23:11
18F:→ HiuAnOP : 雀食 03/26 23:23
19F:推 hank78321 : 傑文斯 03/26 23:55
20F:推 okbon : 去槓桿 先砍再說 03/27 00:00
21F:→ bndan : 配件之所以叫配件 就是因為上限被人鎖住了 純加裝 03/27 00:23
22F:→ bndan : 有有邊際效應 講難聽的 夠便宜才能拉高上限 貴就是 03/27 00:23
23F:→ bndan : 只剩「高價值」硬需求而已 03/27 00:23
24F:推 g9911761 : 循環股要循環了嗎 03/27 02:29
25F:推 z83420123 : kv cache只佔整個記憶體的1-2% 單純獲利了結+殺股 03/27 03:54
26F:→ z83420123 : 價才有機會重新讓利潤夠 03/27 03:54
27F:→ z83420123 : 商業伺服器大概可以占30% 03/27 03:56
28F:推 howdiee : 幾年前的60分是威爾史密斯吃麵 現在60分是醬板鴨 03/27 09:36
29F:→ howdiee : 懂得都懂 03/27 09:36







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:BabyMother站內搜尋

TOP