※ 引述《winall (winall)》之銘言： : Google 的 TPU 已經很久了 : 在 OpenAI 發表 ChatGPT之前 , Google 就在用 TPU了 : 簡單講 Google 為了訓練AI , 自己研發一款專為AI訓練的晶片 : 這個晶片通常需要自己調校 : 這已經發表很久了 , 為什麼現在才在炒 : 可能是最新的 Gemini的成功吧 : 不完全好的比喻 : Nvidia GPU = Windows ; Google TPU = Linux : Nvidia GPU = 自排車 ; Google TPU = 手排車 : TPU 拿掉所有跟AI無關的功能 : 其他團隊要用的時候 需要先花很多時間去了解跟調校 : 但是 Nvidia 的 GPU 已經有各種好的套裝 , 可以很快地開發 : 但你看現在用 Windows的人多 還是 Linux的人多 : 現在開自排的人多 還是開手排的人多 ? : TPU適合自己完全的調教跟開發 : 未來可能會有人用TPU : 但主流仍然是 Nvidia GPU 一般使用者的訓練主流一定還是 gpu，但我指的一般使用者指的是訓練非 LLM 相關的，可能是之前的 CNN 或是更傳統的機器學習，比如物件偵測或是讓臉辨識，但這個很早之前就已經發生了，從以前到現在這塊領域確實都是用 cuda 只是訓練非 LLM 本身就不需要這麼多顆 GPU 阿，真的需要這麼多顆的話 Nvidia 十年前 alexnet 出來就該漲爆了 google 的策略一直都不是賣 TPU 給其他人，而是用在他們自家的 ai 訓練上，現在 LLM 賽道就是在拼誰第一，有一個第一的，你還會用第二名的嗎？更何況現在 Gemini 跟 gpt 的差距越來越大，而 nv 最大的客戶就是在這條賽道上的人，像是 openai 就是砸大錢租資料中心，資料中心因為要有 gpu 才能租，所以就跟 Nvidia 買 gpu 假設未來 Gemini 把其他 LLM 遠遠甩在後面，那這條賽道的意義就沒了，就跟三星越做越虧錢一樣，因為再怎麼砸錢也沒辦法贏台積，那 openai 繼續租資料中心的理由就沒了，資料中心的需求減少了，NV 就會回退到過去 CNN 剛爆發的時期，而這也要 CNN 及傳統機器學習持續有需求，但，有可能嗎？ ----- Sent from JPTT on my Xiaomi 2311DRK48G. --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.218.240.169 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1764341168.A.158.html