作者f496328mm (為什麼會流淚)
看板R_Language
標題[問題] lasso相關套件
時間Sun Oct 30 10:56:36 2016
文章分類提示:
- 問題: 當你想要問問題時，請使用這個類別
[問題類型]:
程式諮詢(我想用R 做某件事情，但是我不知道要怎麼用R 寫出來)
[軟體熟悉度]:
使用者(已經有用R 做過不少作品)
[問題敘述]:
我想問，有關lasso的套件有哪些，我目前知道的是lars和glmnet
想用lasso幫我找重要變數，另外用lasso去挑出來的變數，下去做machine learning
結果一定會比較好嗎?
因為我目前用glmnet去挑，結果並沒有比較好，差距在5%以內
謝謝
[關鍵字]:
lasso lars glmet
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 202.169.173.185
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1477796198.A.F68.html
※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:07:54
1F：→ abc2090614: lasso挑出來不一定比較好 因為no free lunch 10/30 11:18
2F：→ abc2090614: ML的結果都是by case 沒有一個方法適用全部的... 10/30 11:22
3F：→ abc2090614: 我所知道的lasso也只有glmnet就是 10/30 11:23
我用SVM lasso選變數後 結果比較差 差一點點
所以要用其他方法降維 因為目前我用lasso做出來的效果不夠 是這樣嗎?
※ 編輯: f496328mm (202.169.173.185), 10/30/2016 11:31:29
4F：→ kingleo28: 何不試試別的penalty,像scan,mcp 10/30 21:36
5F：→ kingleo28: scad 10/30 21:36
6F：→ Wush978: 很想點名某大大來回應這個問題XD 聽說lasso挑重要變數 10/31 12:58
7F：→ Wush978: 已經被證明挑不好 10/31 13:04
8F：→ Wush978: 但是我也只是聽說，還是以其他做相關領域的大大的意見為 10/31 13:04
9F：→ Wush978: 主 10/31 13:04
10F：推 kingleo28: LASSO會有BIAS的問題(FAN and Li, (2001))有類似討論! 10/31 14:09
11F：→ kingleo28: 但在計算上相對容易許多,如真要考慮L1族 10/31 14:10
12F：→ kingleo28: r建議試看看Adaptive lasso(Zou, (2006)) 10/31 14:11
13F：→ kingleo28: 有段時間沒研讀這方面文章了,我只能就我以前讀過講... 10/31 14:13
14F：→ kingleo28: 現在用PENALTY來做變數選取進展如何 我也沒辦法知道全 10/31 14:14
15F：→ kingleo28: Runze Li. Jianqing Fan, Tibshirani這幾位大師的網站 10/31 14:17
16F：→ kingleo28: 可以看看 會讓您知道目前這方面的技術進展如何 10/31 14:18
感謝 其實做data mining本來就要多嘗試各種方法
各位提供的意見 ， 我會去試試看
看哪些方法能用在我目前的問題上
我用lasso的好處是因為 ， 他是直接抓重要變數 ，
這樣比較容易知道哪個重要
其他降維方法 降了之後會不清楚哪個變數比較重要
像PCA 是去找特徵值 線性轉換等等
這要直接解釋哪個變數重要 比較困難
當然其他降維方法也會做，最多一起report
※ 編輯: f496328mm (111.70.29.240), 10/31/2016 17:16:58
17F：→ kingleo28: 那我建議您參考下SIS 這個package,應該會有幫助! 10/31 19:58