⊕課名⊕ 消息理論 (Information Theory) ▲教授▲ 陳伯寧 ★修課年度★ 107學年度 第2學期 研究所課程 ￡教了什麼￡（課程大概內容。或是額外學會了什麼東西。） Chapter 1. Introduction Chapter 2. Information Measures for Discrete Systems Chapter 3. Loseless Data Compression Chapter 4. Data Transmission and Channel Capacity Chapter 5. Differential Entropy and Gaussian Channel Chapter 6. Lossy Data Compression and Compression Appendix A. Overview on Suprema and Limits Appendix B. Overview in Probability and Random Processes Several Advanced Topics 第一週老師會講Chapter 1的overview，告訴你這門課會教什麼， 接下來會講Appendix A跟B，幫你複習一些這門課會用到的數學工具， 然後在Chapter 2老師會告訴你如何根據三個假設 1. monotonically decreasing in p 2. continuous 3. additive on independent events 推出entropy的形式，以及一些entropy性質。 Chpater 3跟4是這門課的重點， 分別教了Shannon's Source Coding Theorem 跟Shannon's Channel Coding Theorem， 第五章在講continuous source， 第六章則是Shannon's Lossy Source Coding Theorem， 講有distortion的資料傳輸。 最後一週老師有講一些advanced的topic， 不過時間有限，只有稍微帶過。 ◆上課方式◆（投影片、團體討論、老師教學風格） 老師是用他自製的投影片上課的， 偶爾搭配黑板講解或整理投影片上的概念， 老師上課著重在講每個定理跟數學推導背後的物理意義跟精神， 而詳細的推導要自己回家推推看， 因為老師數學太好，他輕鬆講過的地方我回去都要推導一段時間， 在上課比較難完全跟上。 這學期老師有錄影片， 之後應該可以在交大OCW網站上看到這門課， 建議修課或看影片的同學聽完老師講解觀念後， 回去要自己把數學推過一次， 不然聽到後面可能會聽不太懂。 ▼考試作業▼ 一次期中考 一次期末考 每週會有sample problem， 但不用繳交，自己練習。 老師會挑幾題出在期中考/期末考。 ￥其他￥（是否注重出席率or嚴禁遲到？需要的基礎？） 最後學期成績是用兩次考試成績來算的，有調分， 我估計兩次考試平均有80學期成績就會被調到90。 ￠最後想說的話￠ 老師講觀念講得很清楚， 消息理論也是通訊跟編碼領域很重要的課程， 鼓勵有興趣的同學可以修這門課。 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.113.170.52 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/NCTU-Teacher/M.1561362002.A.66E.html