R_Language 板


LINE

※ 引述《ya32347844 (虚虚乐)》之铭言: : : : [问题类型]:网路爬虫 : : : [软体熟悉度]:入门 : : [问题叙述]: : 我想要抓这个网页的资料 但不知道是不是Xpath写错了 我到後来抓到的资料是NULL : 恳请各位大神给予指教 如果有需要补充的资讯也请不吝指出 : 已经google过相关讯息 用不同的package但结果相同 所以才会觉得是不是一层一层的Tag : 写错了 : Update Code: : myheader <- c( : "User-Agent"="Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_0_1 like Mac OS X; ja-jp) AppleWebKit/532.9 (KHTML, like Gecko) Version/4.0.5 Mobile/8A306 Safari/6531.22.7", : "Accept"="text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8", : "Accept-Language"="en-us", : "Connection"="keep-alive", : "Accept-Charset"="GB2312,utf-8;q=0.7,*;q=0.7" : ) : #加上myheader : d <- debugGatherer() : get_url <- getURL(url, httpheader = myheader, debugfunction = d$update, verbose = T) : get_url_parse = htmlTreeParse(get_url, encoding = "UTF-8", error=function(...){}, useInternalNodes = TRUE,trim=TRUE) : cat(d$value()[3]) : node<-getNodeSet(get_url_parse, "//div[@class='page-content-wrapper']") : info<-sapply(node,xmlValue) : info : : [程式范例]: : : library(XML) : library(RCurl) : url="https://www.eex.com/en/market-data/environmental-markets/spot-market/european-emission-allowances#!/2017/01/04" : get_url = getURL(url,encoding = "UTF-8") : #将url解析 : get_url_parse = htmlParse(get_url, encoding = "UTF-8") : tablehead <- xpathSApply(get_url_parse, "//div[@id='content']/section[@class='clearfix']/article[@id='market_data']/div[@id='content']/div/div/div/div",xmlValue) : : [环境叙述]: : : mac10.12.2 : : [关键字]: : : 先用浏览器的开发者工具看一下网页回传的资料 会发现它资料是用JSON回传,也就是说 我们只要抓到那个JSON就可以拿到资料了 => 就不用去parsing HTML了 http://imgur.com/a/ThtWH code: http://pastebin.com/Zt5j8yue 至於你的code应该是少了cookie的setup -- R资料整理套件系列文: magrittr #1LhSWhpH (R_Language) https://goo.gl/72l1m9 data.table #1LhW7Tvj (R_Language) https://goo.gl/PZa6Ue dplyr(上.下) #1LhpJCfB,#1Lhw8b-s (R_Language) https://goo.gl/I5xX9b tidyr #1Liqls1R (R_Language) https://goo.gl/i7yzAz pipeR #1NXESRm5 (R_Language) https://goo.gl/zRUISx --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.233.137.157
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/R_Language/M.1489858711.A.903.html ※ 编辑: celestialgod (36.233.137.157), 03/19/2017 01:40:00
1F:推 ya32347844: 感谢!这麽详细的解说 其实看出来资料是用Json後 简单 03/19 19:14
2F:→ ya32347844: 很多 果然要抓看看不同网站 才会发现自己缺少哪块知识 03/19 19:15







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:BabyMother站内搜寻

TOP