R_Language 板


LINE

※ 引述《ya32347844 (虛虛樂)》之銘言: : : : [問題類型]:網路爬蟲 : : : [軟體熟悉度]:入門 : : [問題敘述]: : 我想要抓這個網頁的資料 但不知道是不是Xpath寫錯了 我到後來抓到的資料是NULL : 懇請各位大神給予指教 如果有需要補充的資訊也請不吝指出 : 已經google過相關訊息 用不同的package但結果相同 所以才會覺得是不是一層一層的Tag : 寫錯了 : Update Code: : myheader <- c( : "User-Agent"="Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_0_1 like Mac OS X; ja-jp) AppleWebKit/532.9 (KHTML, like Gecko) Version/4.0.5 Mobile/8A306 Safari/6531.22.7", : "Accept"="text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8", : "Accept-Language"="en-us", : "Connection"="keep-alive", : "Accept-Charset"="GB2312,utf-8;q=0.7,*;q=0.7" : ) : #加上myheader : d <- debugGatherer() : get_url <- getURL(url, httpheader = myheader, debugfunction = d$update, verbose = T) : get_url_parse = htmlTreeParse(get_url, encoding = "UTF-8", error=function(...){}, useInternalNodes = TRUE,trim=TRUE) : cat(d$value()[3]) : node<-getNodeSet(get_url_parse, "//div[@class='page-content-wrapper']") : info<-sapply(node,xmlValue) : info : : [程式範例]: : : library(XML) : library(RCurl) : url="https://www.eex.com/en/market-data/environmental-markets/spot-market/european-emission-allowances#!/2017/01/04" : get_url = getURL(url,encoding = "UTF-8") : #將url解析 : get_url_parse = htmlParse(get_url, encoding = "UTF-8") : tablehead <- xpathSApply(get_url_parse, "//div[@id='content']/section[@class='clearfix']/article[@id='market_data']/div[@id='content']/div/div/div/div",xmlValue) : : [環境敘述]: : : mac10.12.2 : : [關鍵字]: : : 先用瀏覽器的開發者工具看一下網頁回傳的資料 會發現它資料是用JSON回傳,也就是說 我們只要抓到那個JSON就可以拿到資料了 => 就不用去parsing HTML了 http://imgur.com/a/ThtWH code: http://pastebin.com/Zt5j8yue 至於你的code應該是少了cookie的setup -- R資料整理套件系列文: magrittr #1LhSWhpH (R_Language) https://goo.gl/72l1m9 data.table #1LhW7Tvj (R_Language) https://goo.gl/PZa6Ue dplyr(上.下) #1LhpJCfB,#1Lhw8b-s (R_Language) https://goo.gl/I5xX9b tidyr #1Liqls1R (R_Language) https://goo.gl/i7yzAz pipeR #1NXESRm5 (R_Language) https://goo.gl/zRUISx --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.233.137.157
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1489858711.A.903.html ※ 編輯: celestialgod (36.233.137.157), 03/19/2017 01:40:00
1F:推 ya32347844: 感謝!這麼詳細的解說 其實看出來資料是用Json後 簡單 03/19 19:14
2F:→ ya32347844: 很多 果然要抓看看不同網站 才會發現自己缺少哪塊知識 03/19 19:15







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:WOW站內搜尋

TOP