※ 本文是否可提供台大同学转作其他非营利用途？（须保留原作者 ID） （是／否／其他条件）：是 哪一学年度修课：104-1 ψ 授课教师 (若为多人合授请写开课教师，以方便收录) 王奕翔 λ 开课系所与授课对象 (是否为必修或通识课 / 内容是否与某些背景相关) 电信所、电机系选修 δ 课程大概内容 详情参照老师的课程网页: http://homepage.ntu.edu.tw/~ihwang/Teaching/Fa15/IT.html 先从如何定义一个机率分布的乱度开始，说明: information reduces uncertainty 再切入通讯最核心的Source Coding、Channel Coding的证明: Source Coding 的 minimum compression ratio = entropy of the source Channel Coding 的 maximum transmission rate= capacity of the channel 接下来讨论容许一定范围的distortion之下，Source Coding将如何变化 (若能容许越大的distortion，则compression ratio可以变得越小) 最後将主题岔开至Statistics， 说明Large Deviation Theory的基本概念 (rare event的机率会随sample数增加而exponentially decay) 还有Hypothesis testing (error probability 会随sample数增加而exponentially decay) 期末时介绍special topics， 一种真的能达到channel capacity的coding: polar code 另外为了证明这些理论，也会学一些数学工具， 例如stationary random process typical set(high probability set for soruce coding)， convex optimization--kkt condition(拉格朗日乘数的进化版) method of types(证明large deviation theory的) ...还有很多XD Ω 私心推荐指数(以五分计) ★★★★★ 愿意砸时间读且有兴趣: 爆表 愿意砸时间读但兴趣不大: 四颗 不愿意(or真的没空)砸时间读: 两颗 总之这是一门需要砸时间的课XD η 上课用书(影印讲义或是指定教科书) 主要: T. Cover and J. Thomas, Elements of Information Theory, 2nd Edition 次要:(Polar Coding) S. M. Moser, Information Theory (Lecture Notes), 4th edition, ISI Lab 虽然老师还有列其他本书，但我真的有用到的就这两本 μ 上课方式(投影片、团体讨论、老师教学风格) 老师投影片+板书讲课 σ 评分方式(给分甜吗？是紮实分？) 作业35%、期中30%、期末35%， 紮实，不甜不苦，纯靠努力&考试运气~ ρ 考题型式、作业方式 作业的证明题居多，很难，有时候能在网路上找到解法，但就算找到也要 费时间才看得懂XD 考试会多一点比较不理论性的计算，例如带特定一种机率分布去算算看， 或是出一些通讯应用的(没修过通原就GG ler) ω 其它(是否注重出席率？如果为外系选修，需先有什麽基础较好吗？老师个性？ 加签习惯？严禁迟到等…) 加签好像是先签大学部...吧(? 就是签到接近教室容量这样 不管出席 有修过机率就可以来修了，没有通原应该没关系，顶多对通讯比较没fu而已。 Ψ 总结 本来就对Information Theory有点兴趣，因为想知道entropy是什麽， 其实上到最後还是对Source Coding & Channel Coding没啥感觉， 因为就只是当做学它们的证明而已， 而在证明的过程中会利用到的数学技巧，其实都还满有趣的， 讲Statistics时满难的，但它的结果很漂亮很有感觉。 所以这门课就是用硬的方式灌输各种跟机率有关的数学证明~ 讲起来虽然有点枯燥，但老师尽量把它用直觉性地阐述清楚， 若有不懂的，下课or office hour时问老师，老师都会讲清楚， 常常在作业deadline前才跟老师求救XD 欧对了，老师今年用英文上课，讲得跟中文一样清楚，超猛der 老师是强者，对机率与统计有兴趣的一定要来修喔! --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.228.231.14 ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/NTUcourse/M.1457197236.A.BBB.html ※ 编辑: sunhextfn (140.112.243.92), 03/06/2016 16:01:55