作者shirley7483 (Shirley)
看板Statistics
标题[问题] 胜算比、相对重要性与显着与否的解读
时间Sat Jun 24 19:58:41 2017
感谢之前板友的帮助，让我可以顺利解读与建立多项式回归模型！
但我又遇到新问题了，想再谘询一下各位的专业意见>"<
目的：筛选变数寻找表现较好的模型
前提背景：建立full model後，以显着与否、加入变数前後R^2的变化来做变数筛选标准
以此标准建立模型之後，在解读时发现问题
1. 其中有个连续型变数，系数=0.00040673，p<0.05，OR=1 (实际为1.000406812)
google得知 OR=1 表示此变数对疾病的发生不起作用
套用在我的模型情境中，推测是表示此变数对选择购买哪种商品没有影响
我不太懂的地方是，OR=1 但却显着，这是在"统计上"，此变数真的没有影响的意思？
连续型变数解释成【若变数增加一单位，相较於reference group，选择此商品的可能
性会增加或减少xxx倍】
OR这麽接近1，依旧可以这样解释吗？还是会直接解释成此变数无影响？
2. 透过estimate coefficient，手动计算了每个变数的relative importance
发现有一个变数，虽然不显着，但relative importance却是所有变数中第一高 (56%)
这应该如何解释呢？
不知道是否该把此变数拿掉，才能较好了解剩下的变数的相对重要性？
3. 发生上述两种情况，这两个变数通常会怎麽处理呢？会拿掉还是继续保留？
若有需要其他资讯，提醒後我会尽速补上！先感谢各位的帮助：）
备注：relative importance的计算参考
https://goo.gl/rJqBkY 第四页的Exhibit9.1
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.240.104.195
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Statistics/M.1498305524.A.009.html
1F：推 andrew43: 显着性与效果量不是同一件事。有信心说嫌犯是有罪与罪 06/24 21:21
2F：→ andrew43: 有多重是不同的。 06/24 21:21
3F：推 imaltar: 你看一下OR的信赖区间有没有包含1 06/24 21:21
4F：推 andrew43: 注意到例子之中计算的相对贡献仅适用於因子，且没有权 06/24 21:30
5F：→ andrew43: 衡因子内的水准数。 06/24 21:30
感谢回覆！
to andrew43
你说的效果量effect size指的是OR吗？对你举的犯罪的例子好像有点感觉！
试着对应过来，意思是虽然有信心说此变数对购买哪种商品有影响，但影响程度不大？
...糟糕，解读完觉得哪里怪怪的，为什麽可以说有影响，又说影响不大啊？
这样有信心的影响是什麽＠＠
权衡水准数的意思是？没有权衡的话会造成问题吗？
你这样一提醒我才发现，我这个重要性很高的变数是连续变数！
没有找到有计算连续变数的例子，不知道是否也可以这样计算？
如果不行的话，这样撇除掉连续变数，只算其他的是不是会有点问题呢
因为连续变数也在这个模型中，多少会影响到其他变数的系数吧
to imaltar
OR的信赖区间虽然很小[1.00006, 1.000767]，但没有包含1
我注意到另一个不显着的变数，虽然OR=1，但信赖区间有横跨1
所以这样是指，这个变数(显着的那个)还是有影响力，只是影响力超级小
增加一单位，机率只会增加0.006倍的意思吗？
※ 编辑: shirley7483 (111.240.104.195), 06/24/2017 22:13:31
6F：→ andrew43: 「信心」是指推翻H0而言，但这不仅包括效果量的关系。 06/24 22:55
7F：→ andrew43: 例如，当样本数极大时，你仍有信心推翻一个效果很小的 06/24 22:56
8F：→ andrew43: 伪H0。 06/24 22:56
9F：→ andrew43: 例如 binom.test(table(rbinom(100000,1,0.49))) 的情况 06/24 22:57
10F：→ andrew43: 一个因子之内有几类就是我说的水准数。 06/24 22:59
11F：→ andrew43: 例如，一个因子叫身高，分成二类（高、低）和分成二十类 06/24 22:59
12F：→ andrew43: 自然有不同的解释力。 06/24 23:00
13F：→ andrew43: 我觉得你需要找更适合你情况的相对重要性算法。 06/24 23:02
14F：→ andrew43: 我只知道一般线模很多算法也容易算，但广线模就不了解了 06/24 23:03
15F：推 Rhomboid: OR接近1是因为单位 比方说薪资增加1元 满意度增加0.0001 06/24 23:47
16F：→ Rhomboid: 但如果用万元当单位 薪资每增加1万元 满意度可能增加1.2 06/24 23:47
17F：推 andrew43: 我漏看是连续变数，确实单位也是重点。 06/25 01:37
18F：→ andrew43: 脑子自动带入更早之前讨论的案例了… 06/25 01:39
能够理解水准数不同会造成的影响！
在水准数多、各个系数最大值与最小值差距大的情况下，照此算法，重要性会被膨胀很多
查询其他的相对重要性算法，发现同时衡量连续与类别变数的资料好少.....
找到一个方法是计算各个变数的卡方值，再加总计算百分比
（理解为做单一变数的回归，使用LRT的卡方值计算，不确定有无理解错误）
除了andrew43提到的水准数的问题之外，若是采用这个方法还会有其他疑虑吗？
若有人知道其他算法，再拜托分享一下关键字让我可以进一步查询>"<
参考来源：
https://goo.gl/jcQKq9
感谢Rhomboid提醒，之前都没有注意到单位！
另外发现此连续变数中间有一大段间隔，想请问这个是否也是造成OR接近1的原因呢？
ex.价钱ranage从10~1000，但分布是10~100、500~1000，没有100~500的样本
※ 编辑: shirley7483 (111.240.93.111), 06/25/2017 12:59:56
19F：推 Rhomboid: 如果该变数分布的很不均 考虑把他变成binary variable 06/25 13:53
20F：→ Rhomboid: 吗？ 06/25 13:53