Stock 板


LINE

Dean Ball:他在美國白宮的AI決策圈有很大的影響力.但本質上他就是歷史學士, 其實沒有任何的技術底與理工背景,目前剛去歐噴醬策略部門。 因為是歷史系,我們把底下的內容換句話說 : - 這玩意兒的性能在寫程式上幾乎和Q1最好的模型不相上下 : - 不認為這樣的結果可以單純用蒸餾來解釋 : - 但這東西非常的消耗Token,他認為實際運作上成本比預期高很多 : - 很訝異中國政府會同意這種優秀的開源模型,他認為75%是無知25%是沒算力 很訝異中國不想賺錢,開源這麼好的模型,75%無知不知道該怎麼賺錢25%沒算力賺錢 : - 另一個狀況就是中國出口積極策略就是擾亂市場,因為沒人會為中國模型付錢 來打壞我們歐噴醬市場,因為大家都會用中國模型來自己賺錢(因為開源) : - 開放權重模型從他的觀點來看會影響整個AI infra的CAPEX減緩 原本只有我們幾個巨頭要AI Infra,你現在開源大家都搞,我們就沒資源可以用了 : - 開放權重模型會給AI產業帶來更多不確定性 閉源權重會帶給AI產業很多確定性,因為只有幾個巨頭能搞,其他人不行 : - 開放權重模型非常的共產主義,讓AI走向公共財由國家提供 閉源權重非常資本主義,讓AI走向私人財團化 : - 美國應該開始主導某種監管機制去抑制這些開放權重的開源模型 美國應該要限制大家不能用中國的開源模型,因為會打壞歐噴醬的上市計畫 其實開源權重與模型這點一開始是Meta開始的,只是後來落後太多,現在都是中國在 做開源,中國大廠的決策也很清楚,不開源沒辦法激活各種需求應用人才培養等, 美國這幾個大廠為了維持自身優勢,只能持續封閉。 然後關於蒸餾,其實這也是大家通用的技術之一,但目前K3版本的很多狀況是比Fable 與sol來的更好,更別說這幾個模型也是最近才上線,因此單純用蒸餾無法解釋。 更多的是用更好的架構跟更好的算法來訓練模型優化架構,在資料層面其實在大廠上應 該差不多了,網路資源能挖的資料都挖完了。 個人是認為開源模型會增快在各領域的開發速度,已經將開源模型蒸餾成更小更快的模型 ,所以在前期CAPEX上,可能就會是原本幾個巨頭再投入,改成更多的公司會投入,因為很多服務不在是自 己無法掌握核心,更長遠來看,NV的成長會更高,以及帶動更多的邊緣計算硬體 。 -- 那片有座高塔哭著朝北方奔去的天空,是我此刻片尋不著的風景 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.77.23 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1784607919.A.863.html
1F:推 ypc1994 : 就Python 跟 Matlab 之戰AI版而已 07/21 12:34
說來尷尬,但比喻的很正確
2F:推 aegis43210 : 老黃的成長已經開始減速了,不認為還會加速,因為已 07/21 12:39
3F:→ aegis43210 : 開始受到反資料中心浪潮帶來的限制 07/21 12:39
對,需求增加,但反資料中心導致現在巨頭拼命找租借
4F:推 Solyo : 我投matlab 07/21 12:44
+1
5F:→ Solyo : 這是好文 07/21 12:44
6F:推 Zending : 有看懂,所以來推一下 07/21 12:56
7F:推 redhot99 : Nothing can stop AI growth....Nothing 07/21 13:00
8F:推 Zending : 所以中國如果有想培育一個字用國產模型,鎖住算力 07/21 13:02
9F:→ Zending : 資源,就可以形成不對稱發展,很自然的劇本 07/21 13:03
10F:推 Jefferay : 大家都用中國的AI為何NV上限會更高?不懂邏輯是什麼 07/21 13:03
11F:→ Zending : 更正: 自用的國家代表模型 07/21 13:03
因為其他原本沒辦法加入的公司,現在可以加入了,因此會有更多需求 原本考量成本無法部屬的需求,在一般公司能入場後,就會回歸傳統資料中心的方式
12F:→ Jefferay : 我只看到無論軟硬體都會全掛 07/21 13:04
13F:→ Zending : 不只NV,TPU、AMD、AWS有自研晶片的都喜迎市場 07/21 13:06
14F:推 panda816 : 用中國開源模型當底 做自己的AI服務 硬體設備設備 07/21 13:07
15F:→ panda816 : 還是買nv的算力才夠用 這樣解釋嗎? 07/21 13:07
是的,現在做AI首選還是NV,競爭者還遠,除非像中國那樣被限制住(中美聯合限制)
16F:推 F93935 : 老黃成長減速? 我看到是大公司會本地部署吧 07/21 13:08
17F:推 yinaser : 市場整個變大大公司要架自己數據中心只會挑NV 07/21 13:14
18F:→ yinaser : 誰會去自研晶片和用AMD哪個上手快就用哪個 07/21 13:15
正確,更多的大公司本地部屬,反而是歐噴醬的需求減少
19F:推 aegis43210 : 本地部署?那麼散熱需要的水從那裡來? 07/21 13:16
散熱方式很多種,大海也是個方法,但未來可期資料中心產生的熱直接用於供暖等
20F:推 s800525 : 大公司資料很敏感,不太願意用雲端做 07/21 13:17
這也是大問題之一,歐噴醬不好賺到的錢
21F:推 Zending : 是市場自然發展地變大,但是老黃的競爭者也多了 07/21 13:17
22F:→ Zending : TPU自用之外,也宣布要對外賣,AMD就是純賣並且想擴 07/21 13:20
23F:→ Zending : 大發展算力租賃服務 07/21 13:20
24F:→ Zending : 所以才說老黃的競爭對手真的變多了,往大亂鬥局勢 07/21 13:21
25F:→ Zending : 當然NV支持者會鄙視NV以外的競爭對手很正常 07/21 13:23
其他競爭對手還要點時間,但未來確實會是大亂鬥 也會共同抬升市場
26F:推 badruid : 感謝白話解釋 07/21 13:28
27F:→ KY1998 : 要省事用老黃的 07/21 13:42
28F:推 s213092921 : https://reurl.cc/1lY4j9 美吹別再幻想輝達蹭中國AI 07/21 13:44
29F:→ s213092921 : 了 07/21 13:44
30F:推 atpx : 專業 07/21 13:55
※ 編輯: EvilSD (59.120.53.15 臺灣), 07/21/2026 15:35:32
31F:推 Zending : 又一個頭腦清楚正經的ID,果然好文多有料 07/21 15:44
感謝支持,不好意思比較晚看到
32F:推 Zending : 還好AMD跟TPU都願意砸錢搶GG產能,不然真輸定了 07/21 15:49
33F:→ Zending : 難怪CCW說他的客戶都比他有錢,要搶2nm產能 07/21 15:50
34F:→ Zending : 然後3nm產能也在搶,所以5nm的設備鬼轉3nm搶進 07/21 15:50
35F:→ strlen : 其實都沒差 增量市場 大家都會活得很好 07/21 15:51
36F:→ Zending : 下半年真的有好戲看了,TPU跟AMD來勢洶洶,NV應戰 07/21 15:51
37F:→ strlen : 哀鳳也沒被開源免費的安卓打趴啊 07/21 15:52
38F:→ Zending : 其他人真的轉頭先去搶算力租賃市場比較實在了 07/21 15:52
39F:→ Zending : 是阿,這樣的生態系才是健康的發展,各憑實力搶占 07/21 15:53
40F:→ Zending : 搶占食物鏈的各自生活領域 07/21 15:53
41F:→ mnxzq : 知道Matlab的超老 07/21 15:55
42F:推 auerbach : 受教了 07/21 16:01
43F:推 AirLee : 邊緣計算?嗯 07/21 23:43
邊緣計算要等機器人跟無人機爆發才有大需求了 ※ 編輯: EvilSD (59.120.53.15 臺灣), 07/23/2026 15:57:32







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:WOW站內搜尋

TOP