作者WANG3213 (WANG3213)
看板Statistics
标题Re: [问题] Logistic regression more robust to o …
时间Sat Feb 10 09:45:44 2007
※ 引述《tren (窗外有蓝天)》之铭言:
: 在 The Elements of Statistical Learning一书里,
: 作者於p105比较logistic regression(LR)与linear discriminant analysis(LDA)提到:
: "...observations far from the decision boundary are down-weighted by
: logistic regression..."
: 但小弟对於这里的down-weighting一直百思不解.由於LR和LDA有相同
: 的regression form,所以down-weighting应该不是因为log函数对
: 大数的compression而来.那麽,到底直观上或数学上,LR为何会对outliers
: 比较robust了?
: 谢谢!
我的想法是logistic regression并没有用到X的分配的资讯
而linear discriminant analysis有,它假设不同组的X是多维常态
因此若有outliers,对多维常态的均值向量与变异矩阵影响较大
因为它的decision boundary几乎完全由这两项决定。
这是简单的想法,参考参考。
--
.﹒‧∴
*˙﹒
★ 甜。心。小。北。鼻
* ◢◣◢◣ http://www.wretch.cc/album/u504053 .﹒‧
◥██◤
◥◤ 统。计。生。活。馆
* http://home.educities.edu.tw/rebecca0924/
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 219.71.45.73