R_Language 板


LINE

[問題類型]: 效能諮詢(我想讓R 跑更快) [軟體熟悉度]: 使用者(已經有用R 做過不少作品) [問題敘述]: 各位好,目前我正在寫一支配Stepwise Regression的程式;且已經可以成功執行。 但是在執行效能上還有很大的進步空間 目前所配的Variables 共有80左右,所以配逐步回歸的方式來選取留下的Variable 因為每個變數都需要建立一個獨立模型 所以總共會跑80次左右的iterstions 總共執行時間約莫落在2.5HR左右,所以開始考慮效能提升問題 有遇到一些問題需要各位協助排除障礙,先在此謝謝各位 以下的範例,我先設定跑2次的iteration用來測試效能 [程式範例]: 這是我已經寫好可以Run的程式碼 ##########可以Run的########### system.time(lapply(1:2,function(i)( { print(i) TrainModel<-cbind(setnames(TrainDT[7:nrow(TrainDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]) PracticeModel<-cbind(setnames(PracticeDT[7:nrow(PracticeDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),PracticeDT[1:(nrow(PracticeDT)-6),1:length(PracticeDT),with=F]) resp<-grep('_y',names(TrainModel),value=T) pre<-grep('01F',names(TrainModel),value =T) pre<-pre[2:length(pre)] addq<-function(x) paste0("`",x, "`") Model<-as.formula(paste(addq(resp),paste(lapply(pre, addq),collapse = '+'),sep = '~')) FitModel<-lm(Model,data=TrainModel) #Fitmodel<-lm(`01F0017S_y`~.,data=TrainModel) #Fitmodel<-lm(as.matrix(TrainDT[7:nrow(TrainDT),i,with=F])~as.matrix(TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]),data=TrainDT) stepwise<-step(FitModel,sacle=0,direction = 'both') write.csv(stepwise$coefficients,file = paste0(names(DT[1,i,with=FALSE]),'_Coefficients','.csv')) write.csv(cbind(TrainModel[[1]],stepwise$fitted.values,stepwise$residuals),file = paste0(names(DT[1,i,with=FALSE]),'_Residual','.csv')) write.csv(cbind(PracticeModel[[1]],predict(stepwise,PracticeModel),PracticeModel[[1]]-predict(stepwise,PracticeModel)),file = paste0(names(DT[1,i,with=FALSE]),'_Predict','.csv')) #PredictData<-predict(stepwise,PracticeDT) }))) 每一個iteration在最後會丟出三個我需要參數的csv,總共耗時約2.5HR ###########配合snow 套件的程式########### clusterfun<-function(i){ print(i) TrainModel<-cbind(setnames(TrainDT[7:nrow(TrainDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]) PracticeModel<-cbind(setnames(PracticeDT[7:nrow(PracticeDT),i,with=F],paste0(names(DT[1,i,with=FALSE]),'_y')),PracticeDT[1:(nrow(PracticeDT)-6),1:length(PracticeDT),with=F]) resp<-grep('_y',names(TrainModel),value=T) pre<-grep('01F',names(TrainModel),value =T) pre<-pre[2:length(pre)] addq<-function(x) paste0("`",x, "`") Model<-as.formula(paste(addq(resp),paste(lapply(pre, addq),collapse = '+'),sep = '~')) FitModel<-lm(Model,data=TrainModel) #Fitmodel<-lm(`01F0017S_y`~.,data=TrainModel) #Fitmodel<-lm(as.matrix(TrainDT[7:nrow(TrainDT),i,with=F])~as.matrix(TrainDT[1:(nrow(TrainDT)-6),1:length(TrainDT),with=F]),data=TrainDT) stepwise<-step(FitModel,sacle=0,direction = 'both') write.csv(stepwise$coefficients,file = paste0(names(DT[1,i,with=FALSE]),'_Coefficients','.csv')) write.csv(cbind(TrainModel[[1]],stepwise$fitted.values,stepwise$residuals),file = paste0(names(DT[1,i,with=FALSE]),'_Residual','.csv')) write.csv(cbind(PracticeModel[[1]],predict(stepwise,PracticeModel),PracticeModel[[1]]-predict(stepwise,PracticeModel)),file = paste0(names(DT[1,i,with=FALSE]),'_Predict','.csv')) #PredictData<-predict(stepwise,PracticeDT) } cluster <- makeCluster(type="SOCK",c("localhost", "localhost", "localhost", "localhost")) system.time(parLapply(cluster,1:2,clusterfun)) stopCluster(cluster) 但是在執行上得到這個錯誤 > cluster <- makeCluster(type="SOCK",c("localhost", "localhost", "localhost", "localhost")) > system.time(parLapply(cluster,1:2,clusterfun)) Error in checkForRemoteErrors(val) : 2 nodes produced errors; first error: 沒有這個函數 "setnames" Timing stopped at: 0 0 0.01 > stopCluster(cluster) 請問各位該如何排除這樣的障礙,謝謝各位的指教 [環境敘述]: > version _ platform x86_64-w64-mingw32 arch x86_64 os mingw32 system x86_64, mingw32 status major 3 minor 2.1 year 2015 month 06 day 18 svn rev 68531 language R version.string R version 3.2.1 (2015-06-18) nickname World-Famous Astronaut [關鍵字]: 選擇性,也許未來有用 Snow, data.table,Stepwise Regression --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.227.5.157
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1462421341.A.18F.html
1F:→ h310713: 如需提供任何資訊,請不吝回覆 05/05 12:11
2F:→ celestialgod: clusterEvalQ(cl,ibrary(data.table)) 05/05 12:25
3F:→ celestialgod: cl改成cluster 05/05 12:26
4F:→ celestialgod: 再執行parLapply之前 05/05 12:26
5F:→ celestialgod: 我不確定平行用write.csv可不可以 05/05 12:27
6F:→ h310713: 謝謝協助,write.csv經確認可以使用 05/05 14:13







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:WOW站內搜尋

TOP