作者hirofumisyo (Ami)
看板PC_Shopping
標題[請益] 邊緣運算/資料中心 伺服器
時間Sun Jul 7 19:41:52 2024
由於最近公司成員在電腦跑類神經網路訓練時花的時間太長，
因此上頭萌生要買機架型伺服器來增加運算力的念頭，
不幸公司目前沒有專門IT人員或較懂這方面的同事來處理，
這件事情就落到了也是不懂的我的身上了....
整理目前的需求如下:
1. 機架行伺服器，搭配Nvidia A100 GPU
2. 運算中心: 需要的同仁可連線進入使用運算資源
3. 資料中心: 建造如google drive的線上儲存空間，這裡應該使用NAS廠商
其實一開始公司有丟了技嘉與Dell的網頁給我說可以直接連絡客服就好，
但不知為何寄信過去都石沉大海。
如同前面所述目前沒有IT人員，
我本身其實也算是使用者而已，
可以預見自己導入未來一定會遇到很多問題，
自己是想找一個配合廠商的業務來做技術諮詢就好，
未來若有要擴充功能或是除錯也比較安心，
因此想請問版上在這類需求購買上有沒有什麼建議?
還請不吝告知，
謝謝各位。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.225.13.86 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/PC_Shopping/M.1720352516.A.5BE.html
1F：→ greg7575: 貴司沒有申請電話嗎？客服用打的111.251.201.161 07/07 19:51
明天打算打去技嘉問問，想說一開始先寄信看回信做點功課..
2F：推 RaiGend0519: 第一步：開IT缺 36.233.193.141 07/07 19:51
3F：推 wbenjin: 不要接這鳥差 推不掉就辭職 這公司沒救 223.138.55.97 07/07 19:59
4F：→ wbenjin: 公司要買的東西可能都超過你的年薪 223.138.55.97 07/07 20:00
5F：推 Kowdan: 找廠商來問，絕對不要接這工作 111.71.120.175 07/07 20:03
6F：推 hermithsieh: 找SI廠商招標啦，這種東西要考慮後續 49.159.72.27 07/07 20:05
7F：→ hermithsieh: 保固維護合約，這又不是小錢，出事你 49.159.72.27 07/07 20:05
8F：→ hermithsieh: 要負責嗎還是出錢？ 49.159.72.27 07/07 20:05
9F：→ spfy: 你沒有覺得怪怪的嗎？ 27.51.121.250 07/07 20:23
10F：推 dos01: 建議換新的...工作 182.155.78.98 07/07 20:43
11F：→ dos01: 這是啥IT鬼故事 182.155.78.98 07/07 20:43
12F：推 otosaka: 不要蹚渾水 118.166.65.225 07/07 20:53
13F：推 g0428168: 建議換工作 125.229.126.53 07/07 20:54
14F：推 blanka: 請開履歷準備投了 這公司絕對完蛋 1.34.218.61 07/07 21:05
15F：推 mrme945: 需要跑到這種程度還沒有人專門管機器，有 111.71.214.77 07/07 21:05
16F：→ mrme945: 點慘 111.71.214.77 07/07 21:05
17F：推 justptt978: 快逃175.181.186.142 07/07 21:58
18F：→ spfy: 直接打電話會有廠商接啦 看起來不是沒預算阿 27.51.121.250 07/07 22:01
恩恩，是沒想到兩間寫信都沒人回，我會直接打電話問看看
※ 編輯: hirofumisyo (36.225.13.86 臺灣), 07/07/2024 22:07:23
19F：推 annboy: 我只提醒一點 貴公司確定拿得出這麼多錢 218.161.27.73 07/07 22:26
20F：→ annboy: 嗎 218.161.27.73 07/07 22:26
21F：→ annboy: DGX A100 600萬起跳 更新的代的都千萬 218.161.27.73 07/07 22:26
22F：→ annboy: 稍微低一階的用A6000之類的就比較多廠商 218.161.27.73 07/07 22:27
剛剛看一下應該不會用到像DGX A100這樣等級的，之前了解的需求比較像普通(?)
機架型伺服器+1~4張A100顯卡，達到運算中心跟資料中心目的，有心理準備花費
會破百萬這樣。但實際會多少真的沒有概念，但600萬也太嚇人。
23F：→ Lomonosov: 公有雲應該有得租？203.204.174.134 07/07 22:33
24F：推 Windcws9Z: 因此上頭萌生+公司沒有專門IT人員=涼涼 59.127.190.36 07/07 22:48
25F：推 dky93: 聯繫SI廠商報價不過這種情況大概上頭看到價 36.239.244.105 07/07 22:51
26F：→ dky93: 格就縮惹 36.239.244.105 07/07 22:51
27F：推 Klauhal: 沒錢請IT會有錢買這個? 快逃.jpg 114.34.167.89 07/07 22:53
28F：→ guanting886: 原本想推薦看一看還是算了 42.78.65.183 07/07 23:35
29F：推 suifong: 語言相通打一通電話就會有專人服務，有技122.116.107.218 07/07 23:36
30F：→ suifong: 術問題會有專門的工程師處理，上班日一定122.116.107.218 07/07 23:36
31F：→ suifong: 有人。122.116.107.218 07/07 23:36
這點我是比較擔心的，有的知識都是網路上臨時查到的
32F：→ guanting886: 你的狀況看起來就是上頭只是想打聽 42.78.65.183 07/07 23:36
33F：→ guanting886: 一下報價找你去查一下 42.78.65.183 07/07 23:36
34F：→ guanting886: 公司成員有心或他們知道真的要做應 42.78.65.183 07/07 23:37
35F：→ guanting886: 該自己就先去找了 還讓你寫信..不是 42.78.65.183 07/07 23:37
36F：→ guanting886: 有電話不打寫信 42.78.65.183 07/07 23:37
37F：→ guanting886: 高機率到後面看到報價想一想還是算 42.78.65.183 07/07 23:38
38F：→ guanting886: 了 42.78.65.183 07/07 23:38
39F：推 guanting886: 至於公有雲 公有雲用租不一定划算 42.78.65.183 07/08 00:01
40F：→ guanting886: 新的硬體可能是要加入beta計畫 另外 42.78.65.183 07/08 00:01
41F：→ guanting886: 也要看你選的資料中心那裡有沒有機 42.78.65.183 07/08 00:01
42F：→ guanting886: 器可以給你用 GPU伺服器很夯 最夯的 42.78.65.183 07/08 00:01
43F：→ guanting886: 時候你沒得用 發生意外或要擴增時不 42.78.65.183 07/08 00:01
44F：→ guanting886: 一定有機器會很尷尬 42.78.65.183 07/08 00:01
45F：→ PrimeChaoz: 找SI廠商，維護叫他們做，別自己搞， 61.227.177.215 07/08 00:31
46F：→ PrimeChaoz: 會想死 61.227.177.215 07/08 00:31
47F：推 pcfox: :) 36.231.93.66 07/08 00:50
48F：推 chang1248w: 電可能還要重配 42.77.71.20 07/08 01:14
49F：→ dragon6: 看這種需求 我看也不見得花得起220.134.198.114 07/08 02:37
50F：→ nikitony2001: 這什麼新創公司？ 36.230.235.82 07/08 06:02
51F：推 ariadne: 直接用租的啦 不用煩惱維護 反正也用不到220.133.244.143 07/08 07:30
52F：→ ariadne: 那麼多效能 真要擴充再擴租就好 免煩惱220.133.244.143 07/08 07:30
53F：推 b325019: 沒有專門IT人員處理看到就怕 223.136.161.55 07/08 08:32
54F：→ b325019: 隔壁角川的事情你要不要了解一下 223.136.161.55 07/08 08:33
55F：→ skyrain1234: 公司沒有人懂 你也不懂 推薦換新的 49.217.136.103 07/08 08:33
56F：→ skyrain1234: 工作 49.217.136.103 07/08 08:33
57F：推 b325019: 你系統買進來誰維護？ 223.136.161.55 07/08 08:36
58F：推 xiaotee: 有的廠商寄信過去之後打電話才會理你， 101.9.191.9 07/08 08:49
59F：→ xiaotee: 原po可以試試看打電話去 101.9.191.9 07/08 08:49
好的，謝謝你
※ 編輯: hirofumisyo (36.225.39.92 臺灣), 07/08/2024 09:07:19
60F：推 dky93: 別鬧惹有先了解行情嗎知道A100一張就多少嗎 42.77.183.73 07/08 11:14
61F：→ dky93: 只有上百萬根本買不了啥 42.77.183.73 07/08 11:14
62F：推 b325019: HPC不是買進來就可以用了，最基礎的機房 223.136.161.55 07/08 11:36
63F：→ b325019: 環境都要評估不然買進來還沒幹正事就跳電 223.136.161.55 07/08 11:36
64F：→ b325019: 熱當有你受的，你公司沒有專職IT我猜也沒 223.136.161.55 07/08 11:36
65F：→ b325019: 像樣的機房 223.136.161.55 07/08 11:36
66F：→ nasan7957: 有些伺服器電源的瓦數要評估 101.10.62.106 07/08 12:20
67F：→ nasan7957: 不然操下去直接跳電 101.10.62.106 07/08 12:20
68F：→ sorrojvr: 東西買了沒達到長官想要的預期效能 60.249.246.237 07/08 12:24
69F：→ sorrojvr: 責任你要擔嗎 60.249.246.237 07/08 12:24
70F：推 guanting886: 電的問題基本上就是租IDC看你要幾櫃 42.78.80.0 07/08 13:16
71F：→ guanting886: 只有錢錢多寡後面投資人可能有意見 42.78.80.0 07/08 13:17
72F：→ guanting886: 大部分的問題用錢就是可以解決 42.78.80.0 07/08 13:17
73F：推 asd823: 我們這邊一台A6000就要200萬了 101.12.150.44 07/08 14:30
74F：→ asd823: 先不講業務拜訪，沒IT的公司一開口就A10 101.12.150.44 07/08 14:30
75F：→ asd823: 0廠商也會怕好嗎 101.12.150.44 07/08 14:30
76F：推 b325019: 確實以原po來說最大的問題不是錢而是沒人 223.136.161.55 07/08 16:09
77F：推 mOuOm: 租算力就好了吧 1.170.223.192 07/08 19:45
78F：推 lwei781: 雲端算力先吧 36.230.88.207 07/08 20:59
79F：推 creepy: 不懂的話還是用租的吧.... 111.249.242.42 07/08 22:42
80F：→ ptta: colab pro+? 先試試看啊？ 60.251.57.70 07/09 13:26
81F：→ aaron5555: 沒IT…這什麼爛公司 快逃好嗎114.136.136.235 07/12 20:17
82F：推 Supasizeit: 不是找Dell 要找經銷商203.204.195.174 07/13 20:36
83F：→ seraphalpha: 十之八九上頭聽到報價就會縮了 42.73.193.136 09/18 12:38