作者Voldemort (一叶飘然烟雨中)
看板Soft_Job
标题Re: [心得] AIA 台湾人工智慧学校-技术领袖班
时间Tue Nov 20 23:09:49 2018
在我想要学AI的时候,并没有AIA这个选项。我想跟大家分享的是去年自学的经验。
我上的第一门课是 Udactiy 的 Intro to Machine Learning
https://www.udacity.com/course/intro-to-machine-learning--ud120
跟吴恩达在 Coursera上面的Machine Learning的课比起来,Udacity更平易近人些,
教材的制作也比较用心。另一方面,这个课程里面程式练习是用MATLAB/Octave,我觉得
日後不实用,所以这课程我听了一两堂就没继续了。
Udacity的课让我惊为天人,因为实在安排得太好,我常常是影片看得欲罢不能。最後两周
就把这个课程上完了。
後来对於深度学习实在是很感兴趣,於是付费上了Udacity的深度学习课程
https://www.udacity.com/course/deep-learning-nanodegree--nd101
这个是很紮实的课,有讲理论,给方程式,也要求实作。第一个专题是用numpy做一个
multi-layer perceptron。里面的activation function还有back propagation都必须要
自己。这对於理解神经网路是个非常好的练习。後面的专题还有CNN, RNN等。这个课
让我对於深度学习有了很紮实的基础的理解。
接下来我上了Coursera上面 deeplearning.ai的前四个课程。
https://www.coursera.org/specializations/deep-learning
吴恩达对於理论的讲解比较深入,也讲了不少在做深度学习专案的时候一些实际的技巧。
我觉得在上了Udacity的课,会实作之後,再上吴恩达的课比较好。因为要先会做了,才有
办法透过对理论的更进一步了解来让自己的技术精进。
後来因为我想要对於电脑视觉的部分继续加强,所以上了Udacity的自驾车课程
https://www.udacity.com/course/self-driving-car-engineer-nanodegree--nd013
这个课程里面讲传统影像处理的技巧,也讲深度学习。专案是在处理他们取的实际的道路
影像。有用到传统影像处理加上机器学习的方法,也有用深度学习的方法。我觉得是非常
好的应用的练习。我只完成了第一部分的课程,因为第二部分要开始用C++,这对我来说
实在太难,而且我也没有打算要成为一位自驾车工程师。
後来因为自己开始做了一些医疗影像的AI,还想要再继续精进技术,我再上了Udacity上
电脑视觉的课程
https://www.udacity.com/course/computer-vision-nanodegree--nd891
里面的project比较不一样,有keypoint localization, image captioning, SLAM等这种
比较不常见的课程,我觉得对於充实技能还算是满有帮助的。也因此学了PyTorch
我实在是太爱 Udacity了,最近正在上的课是 Reinforcement Learning
https://www.udacity.com/course/deep-reinforcement-learning-nanodegree--nd893
这个就难了许多,现在正在挣扎中。不过我觉得课程安排得真的是很不错。
後来我自己把这些自学的经验整理成了教材放在这边:
https://github.com/joe-of-all-trades/deep-learning-cv
整理教材的过程当中又进步了不少,因为必须要把这些观念不断地咀嚼。
有一个我没有完成的课程,因为实在是相当困难。我认为对AI的研究有兴趣的人应该要
完成的课程。这是由Geoffrey Hintony在Coursera上面开的课:
https://www.coursera.org/learn/neural-networks
以上。分享我自学的过程。我觉得就算不参加学校,还是有机会可以学到一些AI技巧的。
我很喜欢自学,也很乐意让自学有成的人到我们公司来试试。
祝大家AI学习顺利。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.162.47.226
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1542726597.A.77D.html
1F:推 mcps5601: 难得头推QQ 久仰叶医师已久 11/20 23:29
2F:推 xsoho: 超厉害的 11/20 23:29
3F:→ xsoho: 还蛮好奇你对自己未来的人力需求有什麽看法 11/20 23:32
我很希望能找到深度学习实战经验丰富的人。但这样的人才真的是大家都在抢啊...
不求对於理论有深刻的理解,但希望是有很多实务经验的人。
我觉得这是教育课程非常重要的一环,必须要有大量的业界的资料可以让学员练习。
4F:推 MOONY135: 谢谢分享 11/20 23:33
5F:推 wxtn: 推!我也正在上 11/20 23:40
6F:推 aacs0130: 谢谢分享,这些课程超精实,医学背景来学很不容易耶 11/20 23:52
7F:推 tea596933: 感谢分享 11/21 00:00
8F:推 doranako: 推分享 11/21 00:34
9F:推 jskblack: 如果需要影像方面的资料可以查查imageNet 有许多dataset 11/21 00:55
10F:→ jskblack: 但其实还是需要自己蒐集资料 公司做的都百万笔以上 11/21 00:55
11F:→ jskblack: 资料量还是有一定程度的差距 11/21 00:56
12F:推 jskblack: 有资料是一回事 跑不跑的动又是另外一回事 11/21 00:58
13F:→ jskblack: 有时候还是要靠GPU帮忙算会快一点 11/21 00:58
14F:推 Kazimir: 你上的这些课刚好也是我也都有上过XD 可能是时间上的差异 11/21 01:38
15F:推 Kazimir: 我对於AINDterm2评价很差 以课表来看CVND应该有进步 11/21 01:41
16F:→ Kazimir: NLPND 如果只是把以前的nlp和speeh合起来 那绝对不值得 11/21 01:43
17F:→ Kazimir: Udacity其实有一门CV课程 CS6476 应该是乔治亚理工线上硕 11/21 01:47
18F:→ Kazimir: 的一部份课程.. 不过就像我之前说的 ND课上起来很爽XD 11/21 01:49
19F:→ Kazimir: 顺便想问问看你对於DRLND深度的看法 我对於新ND没信心.. 11/21 01:50
Nanodegree program的好处是 1)因为有付费所以自己会有进度压力 2)课程穿插了小练习
,有sample code,而且sample code里面就实现了课程里面讲的数学概念。这对我来说是
价值最高的,因为看到数学概念在程式上面的实践对理解原理来说很重要。
DRLND到目前为止我觉得还可以,讲到的一些概念都可以看到在程式码上的实践。之前我有
在看 UC Berkeley 的CS294。CS294讲得很好,但是我觉得在作业的方面会因为没有办法
跟助教互动,如果遇到问题比较难解决。Udacity的课其实都先提供了很多sample code在
提示你了,会轻松一些。对我来说,因为没有很多时间完全从头学,这是研究生才有办法
这样做。先给我一些程式码提示一下帮助学习,我觉得对我来说让学习的速度快了很多。
如果很有时间的话,我其实会推荐先看CS294,他其实也有作业放在网路上,也有学生把
他们自己的答案放上去。
Udacity课程另一个好的地方是,他做了 Unity Simulator,让你作业的时候觉得很有趣。
这个是在自驾车第一学期的课程感受到的。我可以自己用这个模拟器开车,然後教CNN开,
我一边自己在学,一边在教深度神经网路,这对我来说是个很新鲜有趣的学习经验,也让
我非常有动力。我想Udacity在做线上补习班这件事情是做得满不错的。至少我没有看到
做得比他更好的。
Udacity的mentor制度就不是那麽好了,我遇到的几个其实都不太能解决我遇到的问题。
我想这还是回到基本的问题吧,AI的人才很缺,真有能力解决问题的人应该不太可能会
担任助教。这还是要在大学系统里面会做得比较好。
20F:推 abc53: 推 11/21 01:58
21F:→ sssh5566: 个人觉得Udaicty又烂又贵。。还写中国台湾省.. 11/21 04:07
22F:→ sssh5566: 教的深度又浅,真的靠这套上完找到工作再说 11/21 04:08
23F:推 neo5277: ML,AI的价值不是到导入跟解法还有模型吗? 11/21 04:27
24F:→ neo5277: 找已经包好的工具先用对商业上的价值感觉比较大 11/21 04:28
25F:→ neo5277: 要发展新工具,应该是真的要跳下去硕博专心搞这样 Y 11/21 04:28
26F:→ neo5277: 觉得短期内软体效益难以显现,大头们都回学校去深耕研究 11/21 04:29
27F:→ neo5277: 熟稔目前的工具应用比较有实际价值觉得。 11/21 04:29
28F:推 imaxpayne: 跟你一样有上self driving car ND , 不过才正要上就成 11/21 06:02
29F:→ imaxpayne: 为自驾车工程师了lol 11/21 06:02
30F:推 fayhong: 大推! 11/21 07:53
31F:推 Kazimir: 感谢解答! 其实我觉得Udacity和台湾的电脑补习班比起来 11/21 12:40
32F:→ Kazimir: 还是不错的 就是数学water down太多了 11/21 12:40
我认为Udacity课程的出发点就是要教你在业界工作时会用到的东西,数学只要有基础就好
我觉得这样的分量刚好让你开始可以有些了解,可以对於模型稍做修改,又不会多到觉得
受不了。至少对我这样并不是受正统训练的人来说,学习不会有太大的障碍。
想要多知道一点数学,网路上有很多资料。我也买了 Learning from Data 这本书来参考
https://work.caltech.edu/telecourse
33F:推 name0625: 谢谢推荐 11/21 15:07
34F:推 sttagomantis: udacity比台湾一堆乱七八糟捡角补习班的好很多 11/21 16:26
35F:推 coronach: 推推 感谢强者经验分享 11/21 17:42
36F:→ lensuper: udacity machine+deep learning+self driving car>15万 11/21 18:39
一个课程是六百或八百美金,我目前上的所有课程大概花了我将近三千美金。
我觉得我收获的,是我投入的几十倍。我的想法很简单,我想要学AI,就我目前写程式
的能力,以及我所能投入的时间跟金钱的成本,我是不是有更好的选择?
这样一想,我就毫不犹豫地选择我上过的这些课程了。如果我有时间,我会一个一个的上
,上到没有课可以上为止。
因为上了这些课,我们公司才有机会变成今天这样子。我认为非常值得。
37F:推 aacs0130: 推课程比较 11/21 23:58
38F:推 VisualStudio: 感谢分享 11/22 00:17
※ 编辑: Voldemort (1.162.47.226), 11/22/2018 00:57:19
39F:推 Kazimir: hmm 可能是我上的版本比较前面 当初连MLE是啥都没讲 11/22 02:52
40F:→ Kazimir: 上完课以後跑去看goodfellow的那本书 看到黑人问号 11/22 02:53
41F:→ Kazimir: 不过我最不满的还是AIND啦 上完真的有还我钱来的感觉XD 11/22 02:54
42F:推 metalalive: udacity 的 DL与 SDC 课程都不便宜, 请教Udacity 11/22 17:49
43F:→ metalalive: 是否会有限时优惠活动 (之类的), 这些课上完应该也要 11/22 17:50
44F:→ metalalive: 花50000 NTD ? (SDC就要 $1000 USD了) 11/22 17:50
45F:→ metalalive: 抱歉我看到前面推文了, 15w NTD ... 11/22 17:52
46F:推 Morphee: 免费材料都念不完了 付费没有比较好 11/23 03:44
我念了一些论文,也看了很多免费教材。我觉得学习最有效率的还是在Udacity上面。
Udacity的课程的好处之一是他把方程式整理过了,而且大又清楚的字体在影片里面呈现,
同时会有另外写的文字说明。
Udacity有设立Slack讨论群,课程助教会固定时间在上面回答问题,同学也可以互相讨论
还有另外类似Stackoverflow的课程问题网站。这些讨论群组我认为价值也很大。有时候
写作业遇到的问题在这边讨论比较快可以得到解答。
每一个学生还会被分配一个个人的Mentor,不过我个人的经验是mentor不太能解答问题,
不如讨论群组。
我是在Udacity一推出这些课程的时候就上了,那时比较便宜。600镁一个课程。
Black Friday的确是有限时15% off的优惠。
讲直接一点,Udacity就是个补习班。他把课程教材整理得很好,让你可以学得快一些。
他的缺点也就是补习班的缺点,有些理论的地方教得不够深。上完Udacity的课应该没有
办法做学术研究。
47F:→ remmurds: 推原 po ID 11/23 13:15
48F:推 fig498: 推 很厉害的前辈! 11/24 15:18
※ 编辑: Voldemort (1.162.53.136), 11/25/2018 11:58:37
49F:→ appleseed: 英文太差~哀无缘,感谢大大推荐 01/17 20:38