作者TheLee (大佛布鲁斯)
看板Soft_Job
标题[请益] 请问学习人工智慧的教科书
时间Sun Jun 23 10:05:52 2019
先说一下自己的背景:
1. 硕士的领域是image/video compression
长期(>10年)以来做的都是embedded Linux相关的工作
2. 对人工智慧及deep learning相关的知识有很大的兴趣
工作之余也自学了一些(看了市面上的几本原文书)
目前对於基本的观念及操作应该知道一些:
downloading data, training data model, testing data model.
3. Computer vision 应该有一些基本的功
看了一些OpenCV的书, 操作过一些案例
一来因为不是computer science/engineering的本科
二来因为过去工作上完全没有机会用到以验证所学
自认为还有很多地方不足,
考虑到学校的课程安排应该会比较严谨些
因此想试着把学校的学习路程走一次...
不知道有没有人的硕/博士论文是跟AI/ deep learning相关的,
A. 能否建议一下, 哪些书(作者)是基本必读的?
B. 有考虑到台大去旁听课程, 能建议哪些课?
想利用下半年的时间全力(full-time)补足这个领域
人生的最後阶段不想再演了
想做有兴趣的事
先感谢各位帅哥美女的建议
祝大家都发大财
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.240.176.246 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soft_Job/M.1561255554.A.B32.html
1F：→ labbat: 好奇问motion compensation或慢速摄影应用 还有发展吗 06/23 10:14
motion compensation是video encoding/decoding的一部分
video codec是否发展到尽头? 任何技术都有尽头的一天.
最後都只是微调, 针对不同的应用去微调.
motion compensation牵涉的技术可应用到其他领域
例如, motion object detection.
就学校的教育来看, 它仍然是一个学习的重点.
(离题了, 回到主题)
2F：推 jj0321: Andrew NG、花书 06/23 10:46
3F：→ MOONY135: ....我觉得现在门槛很高.....然後吃学历也很高 就算是四 06/23 11:02
4F：→ MOONY135: 大硕本科 也不一定十拿九稳吧 何况半年 06/23 11:02
5F：推 tipsofwarren: Linux 给技职系统学生就可以做很好，快点换到障碍 06/23 11:05
我可不敢像你这麽说 XD
Linux的ecosystem太广, 太深...
6F：→ tipsofwarren: 高的ML是对的。PRML 是很好的书。 06/23 11:05
"Pattern Recognition and Machine Learning" 好像是Bible.
Thanks.
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 11:26:26
7F：→ ap954212: Cs231n 06/23 11:27
"CS231n: Convolutional Neural Networks for Visual Recognition".
10周的课程.
Thanks
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 11:41:59
8F：推 musie: Goodfellow 的 Deep learning呀 06/23 12:00
看来规划的不错
Thanks
10F：推 TWkobe: Linux太简单？？黑人问号 06/23 12:09
11F：推 mirror0227: 水管搜寻李宏毅 06/23 12:24
Thanks
好像是很热门的选课, 太多人上课
先抓以上三项建议, 听老外的线上课还可以顺便复习英文 ：）
12F：推 aas5566: 说技职就能懂linux是在开玩笑吗哈哈 06/23 12:51
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 13:07:58
13F：推 tipsofwarren: 李宏毅不太建议，VAE,GMM,EM不够深入或没教到。 06/23 14:00
14F：推 tipsofwarren: Probalistic Model 需要更强大数学背景，值得研究。 06/23 14:02
说到这里, 有个问题困扰我很久了...
常听到有人说"AI这个领域很吃数学"
我自学deep learning到现在, 大概就观察到下列三项是需要的:
Linear Algebra, Probability and Statistics, Calculus(基础的)
是因为我目前接触到的还太基本?
就本身EE的背景来看, 电波组或通讯组的数学经历应该是足够的
如果对所提到的这三项还可以应付的话, 有其他的数学科目要求吗?
15F：→ tipsofwarren: 但是常会被打败而沮丧 06/23 14:02
16F：推 cool9203: 推李鸿毅，我猜上面是说用linux不难，但想写出来就是很 06/23 14:46
17F：→ cool9203: 大的问题了QQ 06/23 14:46
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 15:35:43
18F：推 thefattiger: 不觉得有多吃数学，我也是理科转到ML/DL领域 06/23 15:46
19F：嘘 NTUCS5566: tipsofwarren: Linux 给技职系统学生就可以做很好 ?? 06/23 15:51
20F：→ thefattiger: 要看他背景啦，我类EE背景出来的转ML是0障碍 06/23 15:53
21F：→ thefattiger: 但学linux或os相关就有比较高的门槛要跨 06/23 15:53
的确, 为了学Linux,
我还特地去看Computer Architecture和Operating System的教科书
22F：推 bulc381: 吃不吃数学也跟领域有关 偏应用类的paper相对容易 反之像 06/23 16:18
23F：→ bulc381: ICML一些重推导的paper就会用到在工科系课纲可能不会太注 06/23 16:18
24F：→ bulc381: 重的数学工具 例如Lp-space、"almost everywhere"的概念 06/23 16:18
25F：→ bulc381: ，Bayesian的工具例如sampling, variational inference在 06/23 16:18
26F：→ bulc381: 工学院的机率统计也不见得会碰到 06/23 16:18
嗯, 大概了解
除非因为要投paper而需要用到特别的理论或演算法之外
只要学如何应用的话, 那三项基础的数学应该是够用的吧?
27F：推 shownlin: 不用去旁听，网路上都有去也只是放影片给你看... 06/23 16:28
这我有经历过, 以後也许学生不用去教室上课了...
28F：推 mirror0227: 李宏毅的确省略很多数学，但原因是那是一学期的冲深度 06/23 17:26
29F：→ mirror0227: 学习的速成课程啊XD 那可以另外补，对我来说不构成不 06/23 17:26
30F：→ mirror0227: 推荐的原因 06/23 17:26
必有过人之处才值得你推荐
我会先看他的Youtube, 同语言的学习可能会省些时间
Thaks
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 17:46:18
31F：推 Kazimir: EDX现在有一门MIT新开的ML 刚开始而已 我正在上所以不知 06/23 17:55
32F：→ Kazimir: 道好不好 06/23 17:55
感谢提醒, 忘了还有MIT :)
最近在看他们的Algorithm课程, 教的真不错
http://machinelearning.mit.edu/classes2.html
会试着研究如何跟上所列的课程
此外, 他的"Preparation"刚好也解决了我对於数学要求的疑惑
谢谢各位参与讨论!
※ 编辑: TheLee (111.240.176.246 台湾), 06/23/2019 18:11:17
33F：推 qoozxc789: 李宏毅 觉得想再深入一点就林轩田 06/23 18:41
34F：推 sttagomantis: 这个list提供不少国外课程资源供你参考 06/23 19:55
36F：推 sxy67230: sampling在工科消息评估还是蛮常用到的，小弟硕班是走HM 06/24 13:16
37F：→ sxy67230: M的研究，所以sampling 都还是要学，反倒是变分推理其 06/24 13:16
38F：→ sxy67230: 实变分推理也是从EM拓展出来的。 06/24 13:16
39F：→ sxy67230: ML我自己从业那麽久，我反而觉得他还是被框在shnnon的 06/24 13:18
40F：→ sxy67230: 消息理论框架里面。 06/24 13:18
41F：推 tipsofwarren: 楼上真强人 06/24 21:42
42F：推 abc53: 李宏毅课上完 作业写一写 然後找有兴趣的paper实作 06/24 22:32
43F：推 coco123: 感谢分享 06/24 23:38
44F：→ sxy67230: 李教授的课我自己是会看啦，毕竟这学期的课还是蛮优的， 06/25 18:51
45F：→ sxy67230: 後面介绍很多新模型。毕竟工作以後，真的使用到的模型 06/25 18:51
46F：→ sxy67230: 类型越来越窄，meta那章我自己之前真的了解的就siamese 06/25 18:51
47F：→ sxy67230: 而已，看完教授的课才比较有机会认识几个比较新的模型。 06/25 18:51
48F：推 sxy67230: 想做nlu的可以去看最新教授transformer、bert那章，不过 06/25 19:04
49F：→ sxy67230: 教授应该也是碍於时间没有把bert讲得很完整，像bert随 06/25 19:04
50F：→ sxy67230: 机mask，其实是想做denoise autoencoder，这个跟LM模型 06/25 19:04
51F：→ sxy67230: 有承先启後的关系，要完整从elmo的脉络一直接下来，最 06/25 19:04
52F：→ sxy67230: 後就是今年刚出来的transformer XL模型。 06/25 19:04
53F：推 kumitang: 我个人觉得吃不吃数学真的很看你做哪一方面的耶，有些真 06/26 01:37
54F：→ kumitang: 的数学推导很多，有些真的没什麽数学 06/26 01:37
55F：推 DJWS: google awesome deep learning 06/26 08:11
56F：推 CaptPlanet: 李宏毅和林轩田，搭配 kaggle 实际练习。 06/28 11:04
57F：推 CaptPlanet: 基础有了就多看新的 paper 知道一些新的架构是怎样设 06/28 11:06
58F：→ CaptPlanet: 计的，然後自己试着刻看看。 06/28 11:06