作者iphone2003 (307)
看板Statistics
標題WLS的SST, SSR, SSE計算
時間Mon Mar 11 00:49:39 2019
大家好
我最近在練習把各種迴歸提到的東西實作出來
使用的是python
然後使用statsmodels來驗證我的結果
那我正在寫WLS
作法是令一個矩陣W,其中它的各個對角線元素為weighted值
然後把原本的矩陣X,轉變為Xw= W^0.5 * X
向量y也做一樣的轉換:yw = W^0.5 *y
然後利用Xw和yw去做一般的OLS計算
所以這時候算的係數向量會是
b = (Xw' * Xw)^(-1) * Xw' * yw
= (X' * W * X)^(-1) * X' * W * y
那我現在遇到的問題是
我在計算SST SSR SSE時
一開始想說應該和一般的計算方法一樣
就是像是SSE=(y-yhat)' * (y-yhat)
其中yhat是X * b
結果算出來好像怪怪的
後來改成這樣算
SSE = (yw-ywhat)' * (yw-ywhat)
其中ywhat是Xw * b
這樣結果就對了
但是我不懂為什麼這裡要改用yw去算?
另外同樣的改法,用在SST和SSR卻失敗
算出來的答案不太對
因此想問,是否WLS中,計算SSR、SSE和SST的方法和一般OLS的不太一樣呢?
是的話,又是為什麼要這樣計算呢?
謝謝!
(這裡我的SSR SSE SST分別代表迴歸變異量、誤差變異量和總變異量)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.115.202.154
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Statistics/M.1552236582.A.E40.html
※ 編輯: iphone2003 (140.115.202.154), 03/11/2019 00:51:02