作者f496328mm (为什麽会流泪)
看板R_Language
标题[问题] lasso相关套件
时间Sun Oct 30 10:56:36 2016
文章分类提示:
- 问题: 当你想要问问题时，请使用这个类别
[问题类型]:
程式谘询(我想用R 做某件事情，但是我不知道要怎麽用R 写出来)
[软体熟悉度]:
使用者(已经有用R 做过不少作品)
[问题叙述]:
我想问，有关lasso的套件有哪些，我目前知道的是lars和glmnet
想用lasso帮我找重要变数，另外用lasso去挑出来的变数，下去做machine learning
结果一定会比较好吗?
因为我目前用glmnet去挑，结果并没有比较好，差距在5%以内
谢谢
[关键字]:
lasso lars glmet
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 202.169.173.185
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/R_Language/M.1477796198.A.F68.html
※ 编辑: f496328mm (202.169.173.185), 10/30/2016 11:07:54
1F：→ abc2090614: lasso挑出来不一定比较好 因为no free lunch 10/30 11:18
2F：→ abc2090614: ML的结果都是by case 没有一个方法适用全部的... 10/30 11:22
3F：→ abc2090614: 我所知道的lasso也只有glmnet就是 10/30 11:23
我用SVM lasso选变数後 结果比较差 差一点点
所以要用其他方法降维 因为目前我用lasso做出来的效果不够 是这样吗?
※ 编辑: f496328mm (202.169.173.185), 10/30/2016 11:31:29
4F：→ kingleo28: 何不试试别的penalty,像scan,mcp 10/30 21:36
5F：→ kingleo28: scad 10/30 21:36
6F：→ Wush978: 很想点名某大大来回应这个问题XD 听说lasso挑重要变数 10/31 12:58
7F：→ Wush978: 已经被证明挑不好 10/31 13:04
8F：→ Wush978: 但是我也只是听说，还是以其他做相关领域的大大的意见为 10/31 13:04
9F：→ Wush978: 主 10/31 13:04
10F：推 kingleo28: LASSO会有BIAS的问题(FAN and Li, (2001))有类似讨论! 10/31 14:09
11F：→ kingleo28: 但在计算上相对容易许多,如真要考虑L1族 10/31 14:10
12F：→ kingleo28: r建议试看看Adaptive lasso(Zou, (2006)) 10/31 14:11
13F：→ kingleo28: 有段时间没研读这方面文章了,我只能就我以前读过讲... 10/31 14:13
14F：→ kingleo28: 现在用PENALTY来做变数选取进展如何 我也没办法知道全 10/31 14:14
15F：→ kingleo28: Runze Li. Jianqing Fan, Tibshirani这几位大师的网站 10/31 14:17
16F：→ kingleo28: 可以看看 会让您知道目前这方面的技术进展如何 10/31 14:18
感谢 其实做data mining本来就要多尝试各种方法
各位提供的意见 ， 我会去试试看
看哪些方法能用在我目前的问题上
我用lasso的好处是因为 ， 他是直接抓重要变数 ，
这样比较容易知道哪个重要
其他降维方法 降了之後会不清楚哪个变数比较重要
像PCA 是去找特徵值 线性转换等等
这要直接解释哪个变数重要 比较困难
当然其他降维方法也会做，最多一起report
※ 编辑: f496328mm (111.70.29.240), 10/31/2016 17:16:58
17F：→ kingleo28: 那我建议您参考下SIS 这个package,应该会有帮助! 10/31 19:58