作者dreler1 (....)
站內Statistics
標題[問題] 問一個簡單的線性回歸
時間Wed Jan 9 04:06:11 2013
假設我有 A,B,C 三組數據
ABC 皆為 Log-normal distribution
今天以C 為 dependent AB 為 independents 做 multiple linear regression
C=aA+bB+constant
有人跟我說 linear regression 是屬於 parameteric analysis
ABC 要注意 normality
但是有人說 MLR 不用在意 變數的 distribution
重點是 error term的 distribution
我看了書 還是有點困惑 我本身不是學統計的 但是感覺第一個說法比較正確
所以想請問各位高手的意見 如果有reference的話小弟感激不盡
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 134.197.0.20
1F:→ gsuper:既然已經是 log-normal , 那想必已經轉過 log 01/09 14:41
2F:→ gsuper:那....還有甚麼問題? 是不是常態分佈 就把A和B都畫個hist 01/09 14:42
3F:→ gsuper:看一下 , 然後還有疑慮就做個 ks-test 之類的看 p.value 01/09 14:43
4F:→ gsuper:基本上不要太離譜就直接跑回歸沒問題 (比方說雙峰分佈) 01/09 14:43
5F:推 ching0629:第二句話才是對的,原理是這樣的 01/09 20:04
6F:→ ching0629:回歸就是用X去預測Y,如果先不考慮存在誤差,那且方程式 01/09 20:05
7F:→ ching0629:為y=3+2x,那無論x的分布如何,他與y的關係都成立 01/09 20:06
8F:→ ching0629:在你接受上面這個說法後,我們考慮預測可能存在誤差 01/09 20:06
9F:→ ching0629:因此式子變成y=3+2x+殘差項 01/09 20:07
10F:→ ching0629:如果這個誤差是隨機的,我們就可以說我們的預測是準的 01/09 20:07
11F:→ ching0629:所以只要你的殘差項是常態分布就好了 01/09 20:07
12F:→ ching0629:所以,x與y原來長的多噁心都沒關係,重要的是殘差項必須在 01/09 20:08
13F:→ ching0629:所有x上都呈現"相同"的常態分布 01/09 20:09
14F:→ dreler1:謝謝兩位 給 G大 因為有物理意義 轉成 log 變成沒辦法用 01/10 00:50
15F:→ dreler1:物理意義解釋,不過經過兩位解釋 我大概懂 看殘像分布慨念 01/10 00:51
16F:→ yhliu:如果 A, B 是 log-normal, 不管誤差項是什麼分布, 只要它是 01/10 10:12
17F:→ yhliu:i.i.d., 那麼 A 不會維持 log-normal. 01/10 10:13
18F:→ yhliu:說 "因為有物理意義 轉成 log 變成沒辦法用" 是很奇怪的說法 01/10 10:14
19F:→ yhliu:假設無誤差好了, 兩個 log-normal r.v. 的線性組合再加一個 01/10 10:15
20F:→ yhliu:常數項還會是 log-normal r.v. 嗎? 01/10 10:15
21F:→ yhliu:所謂 "物理意義" 確實表明 C 是 A, B 及一個常數的線性組合? 01/10 10:17
22F:→ yhliu:如果是那樣, 說 A, B, C 都是 log-normal 就是自相矛盾. 01/10 10:18
23F:→ yhliu:一個有物理意義的模型怎能自相矛盾? 01/10 10:18
24F:→ yhliu:再好好考慮一下 A, B, C 三個量之間真正的 "物理意義" 上的 01/10 10:19
25F:→ yhliu:關係, 再重新評估一下這三種量的機率分布假設吧! 01/10 10:20