R_Language 板


LINE

[sparkR.init問題] 我sparkR初始化上一直出問題, 想請教一下前輩們 [目的]========================================= 用spakR進行平行化計算 [系統環境]======================================= 我在vm上模擬一台master和一台node 沒有裝hadoop直接就裝spark, 版本: R version 3.2.3 (2015-12-10) ubuntu:16.04 spark:2.1.0 sparkR:1.4.1 [sparkR安裝]==================================== 如下是我的安裝過程(以下只安裝在master) [Part1.下載套件rJava和devtools] Step1.設訂R CMD javareconf sudo JAVA_HOME=/usr/lib/jvm/jdk/ R CMD javareconf Step2.更新ubuntu函式庫,以下載devtools] sudo apt-get -y install libcurl4-gnutls-dev libcurl4-openssl-dev libssl-dev Step3.於R-shell下載rJava和devtools套件 sudo R install.packages("rJava") install.packages("devtools") [Part2.於R-shell用devtools下載sparkR套件、啟動] devtools::install_github('apache/[email protected]', subdir='R/pkg') 簡單來說,我就只是安裝rJava套件和devtools [初始化code]==================================== 我是在Rstudio server上啟動sparkR的 Sys.setenv(SPARK_HOME='/home/hduser/spark/') .libPaths(c(file.path(Sys.getenv('SPARK_HOME'), 'R', 'lib'), .libPaths())) Sys.setenv('SPARKR_SUBMIT_ARGS'='"--packages" "com.databricks:spark-csv_2.10:1.0.3" "sparkr-shell"') library(SparkR, lib.loc = "/home/hduser/spark/R/lib/") library(devtools) #初始化sparkr為sc sc <- sparkR.init(master = "local", sparkHome = "/home/hduser/spark") sqlContext <- sparkRSQL.init(sc) [錯誤訊息]======================================= 在sc <- sparkR.init(master = "local", sparkHome = "/home/hduser/spark") 這行會出現訊息 17/03/31 02:30:17 ERROR RBackendHandler: createSparkContext on org.apache.spark.api.r.RRDD failed java.lang.IllegalArgumentException: Invalid type ....... Error: returnStatus == 0 is not TRUE 附圖: https://www.facebook.com/photo.php?fbid=1490142967725208&set=p.1490142967725208&type=3&theater https://www.facebook.com/photo.php?fbid=1490143787725126&set=p.1490143787725126&type=3&theater 不知道怎麼了!!!QAQ 希望有貴人指點,感謝 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.128.101.15
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1491117989.A.24F.html







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Boy-Girl站內搜尋

TOP