作者Voldemort (一葉飄然煙雨中)
看板Soft_Job
標題Re: [心得] AIA 台灣人工智慧學校-技術領袖班
時間Tue Nov 20 23:09:49 2018
在我想要學AI的時候,並沒有AIA這個選項。我想跟大家分享的是去年自學的經驗。
我上的第一門課是 Udactiy 的 Intro to Machine Learning
https://www.udacity.com/course/intro-to-machine-learning--ud120
跟吳恩達在 Coursera上面的Machine Learning的課比起來,Udacity更平易近人些,
教材的製作也比較用心。另一方面,這個課程裡面程式練習是用MATLAB/Octave,我覺得
日後不實用,所以這課程我聽了一兩堂就沒繼續了。
Udacity的課讓我驚為天人,因為實在安排得太好,我常常是影片看得欲罷不能。最後兩周
就把這個課程上完了。
後來對於深度學習實在是很感興趣,於是付費上了Udacity的深度學習課程
https://www.udacity.com/course/deep-learning-nanodegree--nd101
這個是很紮實的課,有講理論,給方程式,也要求實作。第一個專題是用numpy做一個
multi-layer perceptron。裡面的activation function還有back propagation都必須要
自己。這對於理解神經網路是個非常好的練習。後面的專題還有CNN, RNN等。這個課
讓我對於深度學習有了很紮實的基礎的理解。
接下來我上了Coursera上面 deeplearning.ai的前四個課程。
https://www.coursera.org/specializations/deep-learning
吳恩達對於理論的講解比較深入,也講了不少在做深度學習專案的時候一些實際的技巧。
我覺得在上了Udacity的課,會實作之後,再上吳恩達的課比較好。因為要先會做了,才有
辦法透過對理論的更進一步了解來讓自己的技術精進。
後來因為我想要對於電腦視覺的部分繼續加強,所以上了Udacity的自駕車課程
https://www.udacity.com/course/self-driving-car-engineer-nanodegree--nd013
這個課程裡面講傳統影像處理的技巧,也講深度學習。專案是在處理他們取的實際的道路
影像。有用到傳統影像處理加上機器學習的方法,也有用深度學習的方法。我覺得是非常
好的應用的練習。我只完成了第一部分的課程,因為第二部分要開始用C++,這對我來說
實在太難,而且我也沒有打算要成為一位自駕車工程師。
後來因為自己開始做了一些醫療影像的AI,還想要再繼續精進技術,我再上了Udacity上
電腦視覺的課程
https://www.udacity.com/course/computer-vision-nanodegree--nd891
裡面的project比較不一樣,有keypoint localization, image captioning, SLAM等這種
比較不常見的課程,我覺得對於充實技能還算是滿有幫助的。也因此學了PyTorch
我實在是太愛 Udacity了,最近正在上的課是 Reinforcement Learning
https://www.udacity.com/course/deep-reinforcement-learning-nanodegree--nd893
這個就難了許多,現在正在掙扎中。不過我覺得課程安排得真的是很不錯。
後來我自己把這些自學的經驗整理成了教材放在這邊:
https://github.com/joe-of-all-trades/deep-learning-cv
整理教材的過程當中又進步了不少,因為必須要把這些觀念不斷地咀嚼。
有一個我沒有完成的課程,因為實在是相當困難。我認為對AI的研究有興趣的人應該要
完成的課程。這是由Geoffrey Hintony在Coursera上面開的課:
https://www.coursera.org/learn/neural-networks
以上。分享我自學的過程。我覺得就算不參加學校,還是有機會可以學到一些AI技巧的。
我很喜歡自學,也很樂意讓自學有成的人到我們公司來試試。
祝大家AI學習順利。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.47.226
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1542726597.A.77D.html
1F:推 mcps5601: 難得頭推QQ 久仰葉醫師已久 11/20 23:29
2F:推 xsoho: 超厲害的 11/20 23:29
3F:→ xsoho: 還蠻好奇你對自己未來的人力需求有什麼看法 11/20 23:32
我很希望能找到深度學習實戰經驗豐富的人。但這樣的人才真的是大家都在搶啊...
不求對於理論有深刻的理解,但希望是有很多實務經驗的人。
我覺得這是教育課程非常重要的一環,必須要有大量的業界的資料可以讓學員練習。
4F:推 MOONY135: 謝謝分享 11/20 23:33
5F:推 wxtn: 推!我也正在上 11/20 23:40
6F:推 aacs0130: 謝謝分享,這些課程超精實,醫學背景來學很不容易耶 11/20 23:52
7F:推 tea596933: 感謝分享 11/21 00:00
8F:推 doranako: 推分享 11/21 00:34
9F:推 jskblack: 如果需要影像方面的資料可以查查imageNet 有許多dataset 11/21 00:55
10F:→ jskblack: 但其實還是需要自己蒐集資料 公司做的都百萬筆以上 11/21 00:55
11F:→ jskblack: 資料量還是有一定程度的差距 11/21 00:56
12F:推 jskblack: 有資料是一回事 跑不跑的動又是另外一回事 11/21 00:58
13F:→ jskblack: 有時候還是要靠GPU幫忙算會快一點 11/21 00:58
14F:推 Kazimir: 你上的這些課剛好也是我也都有上過XD 可能是時間上的差異 11/21 01:38
15F:推 Kazimir: 我對於AINDterm2評價很差 以課表來看CVND應該有進步 11/21 01:41
16F:→ Kazimir: NLPND 如果只是把以前的nlp和speeh合起來 那絕對不值得 11/21 01:43
17F:→ Kazimir: Udacity其實有一門CV課程 CS6476 應該是喬治亞理工線上碩 11/21 01:47
18F:→ Kazimir: 的一部份課程.. 不過就像我之前說的 ND課上起來很爽XD 11/21 01:49
19F:→ Kazimir: 順便想問問看你對於DRLND深度的看法 我對於新ND沒信心.. 11/21 01:50
Nanodegree program的好處是 1)因為有付費所以自己會有進度壓力 2)課程穿插了小練習
,有sample code,而且sample code裡面就實現了課程裡面講的數學概念。這對我來說是
價值最高的,因為看到數學概念在程式上面的實踐對理解原理來說很重要。
DRLND到目前為止我覺得還可以,講到的一些概念都可以看到在程式碼上的實踐。之前我有
在看 UC Berkeley 的CS294。CS294講得很好,但是我覺得在作業的方面會因為沒有辦法
跟助教互動,如果遇到問題比較難解決。Udacity的課其實都先提供了很多sample code在
提示你了,會輕鬆一些。對我來說,因為沒有很多時間完全從頭學,這是研究生才有辦法
這樣做。先給我一些程式碼提示一下幫助學習,我覺得對我來說讓學習的速度快了很多。
如果很有時間的話,我其實會推薦先看CS294,他其實也有作業放在網路上,也有學生把
他們自己的答案放上去。
Udacity課程另一個好的地方是,他做了 Unity Simulator,讓你作業的時候覺得很有趣。
這個是在自駕車第一學期的課程感受到的。我可以自己用這個模擬器開車,然後教CNN開,
我一邊自己在學,一邊在教深度神經網路,這對我來說是個很新鮮有趣的學習經驗,也讓
我非常有動力。我想Udacity在做線上補習班這件事情是做得滿不錯的。至少我沒有看到
做得比他更好的。
Udacity的mentor制度就不是那麼好了,我遇到的幾個其實都不太能解決我遇到的問題。
我想這還是回到基本的問題吧,AI的人才很缺,真有能力解決問題的人應該不太可能會
擔任助教。這還是要在大學系統裡面會做得比較好。
20F:推 abc53: 推 11/21 01:58
21F:→ sssh5566: 個人覺得Udaicty又爛又貴。。還寫中國台灣省.. 11/21 04:07
22F:→ sssh5566: 教的深度又淺,真的靠這套上完找到工作再說 11/21 04:08
23F:推 neo5277: ML,AI的價值不是到導入跟解法還有模型嗎? 11/21 04:27
24F:→ neo5277: 找已經包好的工具先用對商業上的價值感覺比較大 11/21 04:28
25F:→ neo5277: 要發展新工具,應該是真的要跳下去碩博專心搞這樣 Y 11/21 04:28
26F:→ neo5277: 覺得短期內軟體效益難以顯現,大頭們都回學校去深耕研究 11/21 04:29
27F:→ neo5277: 熟稔目前的工具應用比較有實際價值覺得。 11/21 04:29
28F:推 imaxpayne: 跟你一樣有上self driving car ND , 不過才正要上就成 11/21 06:02
29F:→ imaxpayne: 為自駕車工程師了lol 11/21 06:02
30F:推 fayhong: 大推! 11/21 07:53
31F:推 Kazimir: 感謝解答! 其實我覺得Udacity和台灣的電腦補習班比起來 11/21 12:40
32F:→ Kazimir: 還是不錯的 就是數學water down太多了 11/21 12:40
我認為Udacity課程的出發點就是要教你在業界工作時會用到的東西,數學只要有基礎就好
我覺得這樣的分量剛好讓你開始可以有些了解,可以對於模型稍做修改,又不會多到覺得
受不了。至少對我這樣並不是受正統訓練的人來說,學習不會有太大的障礙。
想要多知道一點數學,網路上有很多資料。我也買了 Learning from Data 這本書來參考
https://work.caltech.edu/telecourse
33F:推 name0625: 謝謝推薦 11/21 15:07
34F:推 sttagomantis: udacity比台灣一堆亂七八糟撿角補習班的好很多 11/21 16:26
35F:推 coronach: 推推 感謝強者經驗分享 11/21 17:42
36F:→ lensuper: udacity machine+deep learning+self driving car>15萬 11/21 18:39
一個課程是六百或八百美金,我目前上的所有課程大概花了我將近三千美金。
我覺得我收獲的,是我投入的幾十倍。我的想法很簡單,我想要學AI,就我目前寫程式
的能力,以及我所能投入的時間跟金錢的成本,我是不是有更好的選擇?
這樣一想,我就毫不猶豫地選擇我上過的這些課程了。如果我有時間,我會一個一個的上
,上到沒有課可以上為止。
因為上了這些課,我們公司才有機會變成今天這樣子。我認為非常值得。
37F:推 aacs0130: 推課程比較 11/21 23:58
38F:推 VisualStudio: 感謝分享 11/22 00:17
※ 編輯: Voldemort (1.162.47.226), 11/22/2018 00:57:19
39F:推 Kazimir: hmm 可能是我上的版本比較前面 當初連MLE是啥都沒講 11/22 02:52
40F:→ Kazimir: 上完課以後跑去看goodfellow的那本書 看到黑人問號 11/22 02:53
41F:→ Kazimir: 不過我最不滿的還是AIND啦 上完真的有還我錢來的感覺XD 11/22 02:54
42F:推 metalalive: udacity 的 DL與 SDC 課程都不便宜, 請教Udacity 11/22 17:49
43F:→ metalalive: 是否會有限時優惠活動 (之類的), 這些課上完應該也要 11/22 17:50
44F:→ metalalive: 花50000 NTD ? (SDC就要 $1000 USD了) 11/22 17:50
45F:→ metalalive: 抱歉我看到前面推文了, 15w NTD ... 11/22 17:52
46F:推 Morphee: 免費材料都唸不完了 付費沒有比較好 11/23 03:44
我念了一些論文,也看了很多免費教材。我覺得學習最有效率的還是在Udacity上面。
Udacity的課程的好處之一是他把方程式整理過了,而且大又清楚的字體在影片裡面呈現,
同時會有另外寫的文字說明。
Udacity有設立Slack討論群,課程助教會固定時間在上面回答問題,同學也可以互相討論
還有另外類似Stackoverflow的課程問題網站。這些討論群組我認為價值也很大。有時候
寫作業遇到的問題在這邊討論比較快可以得到解答。
每一個學生還會被分配一個個人的Mentor,不過我個人的經驗是mentor不太能解答問題,
不如討論群組。
我是在Udacity一推出這些課程的時候就上了,那時比較便宜。600鎂一個課程。
Black Friday的確是有限時15% off的優惠。
講直接一點,Udacity就是個補習班。他把課程教材整理得很好,讓你可以學得快一些。
他的缺點也就是補習班的缺點,有些理論的地方教得不夠深。上完Udacity的課應該沒有
辦法做學術研究。
47F:→ remmurds: 推原 po ID 11/23 13:15
48F:推 fig498: 推 很厲害的前輩! 11/24 15:18
※ 編輯: Voldemort (1.162.53.136), 11/25/2018 11:58:37
49F:→ appleseed: 英文太差~哀無緣,感謝大大推薦 01/17 20:38