Statistics 板


LINE

※ 引述《iphone2003 (307)》之銘言: : 大家好 : 我最近在練習把各種迴歸提到的東西實作出來 : 使用的是python : 然後使用statsmodels來驗證我的結果 : 那我正在寫WLS : 作法是令一個矩陣W,其中它的各個對角線元素為weighted值 : 然後把原本的矩陣X,轉變為Xw= W^0.5 * X : 向量y也做一樣的轉換:yw = W^0.5 *y : 然後利用Xw和yw去做一般的OLS計算 : 所以這時候算的係數向量會是 : b = (Xw' * Xw)^(-1) * Xw' * yw : = (X' * W * X)^(-1) * X' * W * y : 那我現在遇到的問題是 : 我在計算SST SSR SSE時 : 一開始想說應該和一般的計算方法一樣 : 就是像是SSE=(y-yhat)' * (y-yhat) : 其中yhat是X * b : 結果算出來好像怪怪的 : 後來改成這樣算 : SSE = (yw-ywhat)' * (yw-ywhat) : 其中ywhat是Xw * b : 這樣結果就對了 : 但是我不懂為什麼這裡要改用yw去算? : 另外同樣的改法,用在SST和SSR卻失敗 : 算出來的答案不太對 : 因此想問,是否WLS中,計算SSR、SSE和SST的方法和一般OLS的不太一樣呢? : 是的話,又是為什麼要這樣計算呢? : 謝謝! : (這裡我的SSR SSE SST分別代表迴歸變異量、誤差變異量和總變異量) WLS的optimization problem是 min (y-XB)^T W (y-XB) 這個量是什麼意思? 你一般在做optimization就是在最小化SSE 所以SSE = (y-XB)^T W (y-XB) = sum_i w_i (y_i-X_i B)^2 自己拆一下就跟你那個式子一樣了 那SST是什麼? SST是總變異量,在OLS是 sum_i (y_i-y bar)^2 WLS因為多了weight 所以變成 sum_i w_i (y_i - y bar)^2 寫成矩陣就是 (y-y bar)^T W (y-y bar) SST = SSR + SSE,那SSR就自己推導吧 我看你現在只是在練習把演算法做出來而已 不是真的在理解它到底為何這樣做,跟背後的概念 這樣是無助於你學習的 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.163.170.73
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Statistics/M.1552271897.A.624.html
1F:推 iphone2003: 感謝你!這樣看就懂了,本來把W併進Xy所以搞不太清楚 03/11 16:30
2F:→ iphone2003: ,不過分開來看就能理解了 03/11 16:30
※ 編輯: celestialgod (119.14.59.166), 03/11/2019 21:06:26







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:iOS站內搜尋

TOP