PC_Shopping 板


LINE

我入手 Dell Pro Max with GB10 2TB 價格比 ASUS GX10 1TB 便宜 但整體仍然因漲價潮影響,還是會讓荷包大失血,分享我對它的看法給大家參考 Dell官網連結: https://tinyurl.com/4bmuzx49 0. 介紹 簡單介紹 NVIDIA GB10 UMA 128GB 的架構 基本上就是一個小電腦搭載 20 核心的聯發科 ARM 處理器 加上最新的 NVIDIA GB20B (Blackwell 2.0) GPU 並搭配 128GB LPDDR5X 256bit 273.2 GB/s 的統一記憶體 (CPU & GPU 共用) 只能用 Ubuntu 24.04 作業系統,如果之後要重灌原廠官網有還原包 詳細規格: https://www.techpowerup.com/gpu-specs/gb10.c4342 1.儲存空間 由於 GB10 的儲存空間太小了,而且這台是 2TB QLC 在調研模型的時候動輒 10GB 的模型很快吃滿容量 串接我的 NAS: i7-9700K + 128GB DDR4 + SSD 1TB x2 (RAID1) + HDD 18TB x8 (RAID6) 我在 RAID6 NAS 這台安裝 TP-Link TX401 10 Gigabit PCI Express 網路卡在 x4 插槽 並用 CAT6A 直連兩個 10Gbps Port,然後設定 NAS 這台兩張網卡組成 Bridge 好處是不用買很貴的 10Gbps Hub,缺點是 NAS 這台要開機我的 GB10 才能連網 實測掛載 NFS 速率如下: (NAS OS 是 Debian, RAID6 是 Software RAID mdadm) 寫: $ dd if=/dev/zero of=./testfile bs=100M count=10 conv=fdatasync 1048576000 bytes (1.0 GB, 1000 MiB) copied, 3.50447 s, 299 MB/s 讀: $ dd if=./testfile of=/dev/null bs=100M count=10 1048576000 bytes (1.0 GB, 1000 MiB) copied, 0.918901 s, 1.1 GB/s 寫入速度受限於硬碟的速度,而 RAID6 多硬碟可以大幅加快讀取速度 至於 100G 的光纖網路方案,網上有某家 NAS 的文章感覺是業配,且 100G 卡很貴作罷 每個 GB10 有 100Gbps x 2 Port 可以串接第二台 GB10 進行共同運算 雖然我接 10G 寫入跑不滿,但至少讀取模型才是最主要的操作,已可達到 1.1 GB/s 建議有要用 10Gbps NAS 的用戶要用 NVMe RAID1 當快取速度才能滿速運轉 另外我初期 GB10 只用 1Gbps 網路實在是太慢,不建議這樣配置 2.CPU速度 CPU 雖然是 ARM 架構但編譯軟體非常流暢 編譯 OpenCV with CUDA support 只花十分鐘不到 (20核心ARM) 同樣的編譯參數拿到 Windows + x86 大概要花三十分鐘以上 (8核心5700X3D) 3.GPU 與 VRAM 速度 它的定位是一個 RTX5070 等級的 GPU 運算性能 + 128GB 慢速 RAM (因需相容CPU) 相比於 RTX5070 12GB 的 672.0 GB/s 存取速度,273.2 GB/s 只有一半不到 4.CUDA效能 如果你要寫 CUDA 程式在上面跑跑看的話,可以直接沿用 x86 的程式不用改 宣告在 UMA 的 cudaMallocManaged() 的記憶體在 CPU + GPU 可以同時存取 但實際測試 cudaMalloc() 宣告只能在 GPU 使用的記憶體存取速度快 10% 以上 測試版本是 Driver Version: 580.173.02 CUDA Version: 13.0 5.AI LLM 大型語言模型基本上 100B 左右都有機會可以放進 Q4 (量化成4bit) 的模型 我有用過最大的模型是 Qwen3.5-122B-A10B https://github.com/albond/DGX_Spark_Qwen3.5-122B-A10B-AR-INT4 大概會占用 100GB 的 VRAM,速度被這位大神優化到還蠻快的 52 tok/s GB10在大語言模型的優點是記憶體大,可以放下足夠長的上下文跟用較聰明的模型 缺點是記憶體慢,所以 pre-fill 很慢,導致整體體驗會覺得比線上 API 慢很多 pre-fill 就是輸入的 token 讀取速度,由於 Hermes Agent (或龍蝦 OpenClaw) 這類 Agent 程式都要管理記憶,所以會累積到 100K tokens 十萬字左右的篇幅 而 GB10 的 pre-fill 速度在一些如 35B-A3B 的模型可達最高 1000 toks/s 左右 等於是你首次問一個問題要花 100 秒才會得到回應,當然第二次有 cache 會變快 而 122B 大模型可能掉到 200 toks/s 所以拿來跑龍蝦的話,500 秒才會回應... 35B-A3B 的速度之數量級 (印象中的速度) 記憶體占用 24GB 左右 文字輸入速度: GB10=1000tok/s RTX5090=4000tok/s 文字輸出速度: GB10=100tok/s RTX5090=200tok/s 相比於線上 API 的白菜價,用 GB10 跑 LLM 基本上不划算, OpenAI 的線上 API 文字輸入速度都是 10000tok/s 以上 只要 ChatGPT 訂閱帳號可以串接 Hermes Agent 或 OpenClaw 使用 gpt-5.6-luna 就很好用,所以我打算不拿 GB10 跑 LLM 除非你有隱私需求,但考量速度會建議你買 RTX5090 6. AI Vision 文生圖、圖生圖、文生影片、圖生影片 / AI Audio 語音合成等 我覺得 GB10 的優點是有大記憶體,所以反而很適合跑一些影片生成類的生產力工具 原因是線上的生成影片 API 實在是非常貴,如生成1秒要價1台幣,還不確定達到成果 也就是 Comfy UI 的工作流了, Comfy UI 是個可將 AI 模型產出串接另一 AI 的工具 例如我今天輸入想說出的文字及老王的語音範本跟老王照片,要產出老王說出特定的文字 就可以將這個語音生成的結果串接到下一個節點接入嘴型生成的AI模型 搭配老王的照片就可以產出老王講出特定內容的影片,也就是YT上各種AI生成的主播 線上 API 生成 10 分鐘就要 600 台幣了,跑在 GB10 可能要花半天運算,但省錢 而且很彈性,做壞了就再花幾小時重新運算,並且可以將 Comfy UI 設定好的參數存檔 網路上也有很多 GitHub 會放 Comfy UI 的插件,可以隨時加入最前沿的模型以供使用 而生一個 720p 影片會用超過 32GB 的 VRAM 所以 GB10 相對比 RTX5090 還要更適合 而且開始生成時可以關閉瀏覽器,Comfy UI 是透過網頁,等跑完再連入取得結果即可 7. AI Agent 如果目標是 LLM 的代理人可能要再想想,它的速度堪用但不夠快,為了隱私的話可接受 基本上我在這台跑 Hermes + OpenAI gpt-5.6-luna 協助我佈署,下載模型只要貼網址 如果你要跑本地 LLM 用於 AI Agent 我建議用這個GitHub: (Qwen3.5-35B-A3B vLLM 最佳化) https://github.com/yunusshin/DGX_Spark_Qwen3.5-35B-A3B-Optimized 可以一開始就下這個命令要他記住: (請自行修改) "請記住您是一個執行在 NVIDIA DGX Spark (GB10) 128GB UMA + ARMv9.2 + 2TB QLC SSD 的 BOT ,並且擁有 sudo 權限,而你只能使用內建的 cuda-13.0 + cudnn 9.23.2 + tensorrt v110100 ,而你的網路是透過 10Gbps 內網連結 18TBx8 RAID6 (108TB) 的 NAS ,這個磁碟掛載在 /storage 是專門給你用的 。所以請使用上述內建的 CUDA Lib 版本,並且盡量使用 /storage 這個空間,而 避免使用 /home 或 /tmp 等空間因為它是 QLC 比較不耐寫,我希望你的壽命長久。" 以避免 AI 使用不相容版本的 CUDA 或是自行幻想自己是 x86 平台 雖然我覺得拿 GB10 跑 LLM 好像比較不划算,比幾乎同價格的 RTX5090 慢 8. 螢幕接口 GB10 可輸出螢幕的接口有 HDMI x1 + TypeC x3 (已扣除電源的TypeC接口) 算是可以接 4 個螢幕,與一般顯卡的數量相同,作業系統是 Ubuntu 需考慮軟體相容性 結論: GB10 整體來說可以讓你有一台獨立可跑 AI 的小電腦,讓人可以用低成本導入 AI 但它的缺點是效能較低,特別是記憶體頻寬不夠大,所以購買前請務必先評估效能 優點是很省電且可以載入市面上大多數的模型,泛用性比 RTX5090 還要好 非常適合用於 AI 專案的前期模型佈署相關調查研究,固定成本可讓你不斷試錯 也可以讓你用這個平台嘗試目前最前沿的模型,基本上每個月都有新模型可以試 等到效果達標,有需要加速的時候再購買更高規格硬體,或是使用雲端虛擬主機 至於儲存的部分則建議串聯 10G 內網連接 NAS 才有充足的空間讓你嘗試最新模型 這也難怪 4TB 版本會賣那麼貴,插 TypeC 的 SSD 也可以考慮,它的 TypeC 是 20Gbps 希望人人都能找到適合自己的 AI 平台,買了 GB10 之後覺得購買前可先試試雲端 API 因為最前沿的模型通常是要拿來賺錢,尚未開源,開源模型通常要等一陣子 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.154.12 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1786453501.A.9D2.html
1F:→ CardLin: 補充: 建議買來先更新韌體, 有穩定性更新 36.227.154.12 08/11 21:06
2F:推 roseritter: 推 122.117.187.82 08/11 22:04
3F:推 seemoon2000: 現在最佳解是買兩台裝deepseek 0731 220.137.6.192 08/11 22:09
4F:→ seemoon2000: 還有跑生圖影音需要這台 如果是要省 220.137.6.192 08/11 22:09
5F:→ seemoon2000: 錢跑本地模型 不需要這台 不會省錢 220.137.6.192 08/11 22:09
6F:→ CardLin: 請問兩台200G光纖串起來VRAM會雙倍嗎?? 36.227.154.12 08/11 22:28
7F:推 sdbb: 謝謝 112.104.65.143 08/11 22:35
8F:推 seemoon2000: 不是vram翻倍 是讓兩台接力運送 透 89.117.42.14 08/11 22:40
9F:→ seemoon2000: 過那條ConnectX-7傳輸資料 89.117.42.14 08/11 22:40
解釋一下ComfyUI執行任務時是將任務放到排隊佇列,跑完一個會接續跑下一個 剛剛查了一下兩台GB10跑ComfyUI不是加速單一執行,而是同時可跑兩個任務 (額外設定)
10F:推 sadspat: 好奇請教為何不是選ai max+ 395 ?123.192.239.198 08/11 23:11
NVIDIA架構包含CUDA是最廣泛使用的AI平台不用踩坑,而且新模型通常能直上不用等
11F:推 fautumn: 謝謝分享 1.169.120.153 08/11 23:37
12F:→ crimsonmoon9: 很容易過熱重開 丟24Hr冷氣機房還是 42.77.121.248 08/12 01:38
13F:→ crimsonmoon9: 要加個小電扇 42.77.121.248 08/12 01:38
14F:→ xeyrekr: ai max 395 生態系支援太差 不支援fp4 220.133.20.17 08/12 03:47
15F:→ xeyrekr: 地端的價值是 資料不外流+comfyUI容錯率 220.133.20.17 08/12 03:55
16F:→ iceyang: 適合拿來放著慢慢跑模型訓練 61.224.186.178 08/12 04:55
17F:推 skywgu: 硬碟IO性能主要影響「模型載入時間」;通 49.218.143.96 08/12 09:57
18F:→ skywgu: 常不太影響模型載入完成後的推理速度吧 49.218.143.96 08/12 09:57
19F:→ skywgu: 用機械硬碟載入100G也就拉個屎10分鐘左右 49.218.143.96 08/12 09:57
20F:→ skywgu: 就結束了XD 49.218.143.96 08/12 09:57
ComfyUI每跑一個節點就會重新載入模型,用完就卸載以釋放記憶體,會頻繁I/O 如果是跑一些 10GB 的文字轉語音模型,轉換花30秒,載入要花超過30秒就不划算了 若載 10GB 模型跑10分鐘可能還可接受,模型生命週期短的話還是有 10Gbps 網路較好 另外 NAS 如果有足夠的 RAM 的話也會被當成硬碟快取 如果是大檔案的話 RAID6 多碟(我的是8碟)本身就可達 1GB/s 算很夠用 100Gbps就等以後看有沒有100Gbps洋垃圾網卡但就要使用x8或x16的插槽 ※ 編輯: CardLin (36.227.129.159 臺灣), 08/12/2026 10:27:09
21F:推 stlinman: 感覺跑影片比較划算,跑LLM首字要等500150.116.129.113 08/12 10:46
22F:→ stlinman: 秒? 太慢了跑Agent感覺卡,而且現在線上150.116.129.113 08/12 10:46
23F:→ stlinman: API幾乎都能吃到補貼讓利。 不介意數據150.116.129.113 08/12 10:47
24F:→ stlinman: 隱私安全的LLM走雲端比較有效益!150.116.129.113 08/12 10:48
LLM 我用的 Qwen3.5-122B-A10B 的 Content Window = 262144 tokens Content Window 的意思是最長可接受的上下文,如問題 25 萬字,剩下 1 萬字可輸出 也就是上下文的 KV Cache 記憶體用量的上限 而速度的問題要看 pre-fill rate 如 10萬字 / (pre-fill-rate=200字/秒) = 500秒 如果是 Qwen3.5-35B-A3B 就擁有 pre-fill rate=1000字/秒 就會縮短到 100 秒 會輸入10萬字通常是在查詢網頁時將整個網頁爬蟲之類的情況,或是 AI Agent 查看 Log 如果只是一般對話,例如線上 AI 客服之類的短 content 應用,其實反應蠻快的 簡單算一下輸入只有 1000 字的話 1 秒後就開始輸出文字回答 整體 AI Agent 速度的體感是比 OpenAI API 慢而且初期投入成本相對算是非常高 隱私需求的話仍然可以考慮買一台來 Try Run,畢竟企業一個文檔可能就以超過硬體價值 ※ 編輯: CardLin (36.227.129.159 臺灣), 08/12/2026 11:07:34
25F:推 Nilife: 試試Qwen3.8-27B q8_0 101.8.81.50 08/20 18:09
26F:→ labiron: 沒有windows會很不方便嗎?用27B模型模 36.228.238.20 08/24 21:54
27F:→ labiron: 型 還需要用到量化版 36.228.238.20 08/24 21:54
28F:→ CardLin: Linux 看個人熟悉程度, 3.8-27B 效果不錯 36.227.147.233 08/27 13:46
29F:→ CardLin: 我是參考 hasso5703/dgx-spark-qwen38 36.227.147.233 08/27 13:46







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:BuyTogether 或 站內搜尋

TOP