R_Language 板


LINE

※ 引述《clansoda (小笨)》之銘言: : C大我把我的問題發一篇,我目前大部分都有看懂 : 第一個問題是我有?GET,他的maunal裡面沒有提到referer這個 : 請問這個是要設成你尋頁的什麼才是正確的呢? chrome F12查看該網頁的requested header可以看到他有referer curl的manual裡面有referer的參數 httr::config的...可以放置curl的其他參數,可以?config查看 GET第二個element就是給config : 因為看你設的參數是該網頁的整頁,也是inspect頁面的network : 的第一項,所以我有點疑惑這個參數究竟要設什麼 就是給request headers : 第二個問題是str_replace_all,manual,只有\\1\\1這個例子 : 那個例子是多一個前面的文字,但是您的寫法把前面的括號消掉了 : 請問這個\\(|\\)代表什麼涵義呢? 這是regexp, ( 或 )這個取代掉, |代表或的意思 又因為()在regexp裡面有意義,所以需要用escape \\ 可以參考這個網站:http://regexone.com/ : 第三個問題是這個str_replace跑完後,我用class查詢他是chracter : 可是您在後面接了一個fromJson然後整個LIST就變成dataframe的型態了 : 為什麼他是Json的格式呢?是如何判斷的,而如果str_replace只消掉 : 前面的文字如showStoreList,而沒有消掉括號的話fromJson就會出錯 : 請問如何判斷他是JSON的格式呢? 怎麼判斷這個問題很怪,你找一下JSON的範例格式對一下滿明顯的 那個樣式就是一個javascript的物件(攤手 就是JSON (javascript object notation).... 不知道怎麼回答你這個問題QQ : 最後一個問題是在這個全家頁面用我之前用的ctrl+u這種顯示整頁html的 : 方式會看不到想要parsing的格式,用C大這種inspect的方式可以看到他後面API的 : 走向,我點那個api的頁面會出現類似 : "NAME": "全家基隆廟口店", : "TEL": "02-24289166", : "POSTel": "02-77230578", : "px": 121.742868, : "py": 25.128415, : "addr": "基隆市仁愛區仁三路33號", : "SERID": 15829.0, : "pkey": "011629", : "oldpkey": "005829", : "post": "200", : "all": "COFFEE,WiFi,oneice", : "road": "仁三路", : "twoice": null : 看起來就是我們要的資料沒錯,接著我用同樣方式去找seven他們的查詢系統 : 他們的更隱密,我找不到類似全家的這種方式可以抓他們的資料 : 只有一個emap開頭的,但是後面的參數是時間,裡面的值是縣市 : 我就再也沒找到裡面有值的檔案了,請問C大這種的也parsing的了嗎? : 感謝您的回復 每個網站寫法都不一樣,這個就要慢慢找怎樣爬了 像是全家在header上加referer,我也是第一次看到(攤手 多爬幾個網站累積經驗囉(攤手 至於seven的網站一樣可以在https://emap.pcsc.com.tw按下搜尋後 可以在network看到Request URL: https://emap.pcsc.com.tw/EMapSDK.aspx 從Form Data可以看到他有SearchStore這個api,然後下query字串就有xml檔案了 如圖所示:http://i.imgur.com/WJt3eR8.png 借用了全家的全國鄉鎮位置去做查詢 (你可以另外去找網頁找全國鄉鎮,借全家比較慢) 程式:http://pastebin.com/HZimmj1X 檔案下載連結: http://www.mediafire.com/download/gbova5bl29h9owb/sevenElevenStoreLoc.csv 部分結果: POIID POIName X Y Telno <chr> <chr> <chr> <chr> <chr> 1 15886 千成 121522903 25043751 (02)23577481 2 11081 千翔 121516971 25045748 (02)23123025 3 13639 大永博 121511644.363883 25043153.9228778 (02)23826912 4 16133 中航 121522538 25042552 (02)23278931 5 99156 中華電 121523275 25036515 (02)33433607 6 12179 中愛 121520249 25033082 (02)23415461 7 93291 中樂 121510506 25045116 (02)23122424 8 12830 丹陽 121525546 25039050 (02)23516914 9 13529 仁金 121528948 25038452 (02)23583428 10 12786 北高鐵 121519384.869613 25047133.4366581 (02)23149940 -- R資料整理套件系列文: magrittr #1LhSWhpH (R_Language) http://tinyurl.com/j3ql84c data.table #1LhW7Tvj (R_Language) http://tinyurl.com/hr77hrn dplyr(上) #1LhpJCfB (R_Language) http://tinyurl.com/jtg4hau dplyr(下) #1Lhw8b-s (R_Language) tidyr #1Liqls1R (R_Language) http://tinyurl.com/jq3o2g3 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.109.74.87
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1466658481.A.FAB.html
1F:推 v32767: c大資料整理條件有考慮再補個reshape2嗎? 06/23 14:28
沒打算,reshape2的功能都可以用tidyr取代
2F:推 clansoda: C大,我有看到你貼的這個網頁,但是我點他都是空白的 06/23 16:03
3F:→ clansoda: 怎麼樣才能看到API呢 06/23 16:04
稍微更正一下內文,是先打開F12的network標籤 然後在https://emap.pcsc.com.tw/搜尋之後 會出現這個:http://i.imgur.com/WJt3eR8.png
4F:→ clansoda: 我有用inspect頁面去看,可是真的沒看到 06/23 16:04
5F:→ clansoda: request header這個項目也都沒找到 我用ctrl+F找也沒有 06/23 16:04
6F:→ clansoda: JSON的部分我去爬了翻轉教室 已經了解結構了 06/23 16:26
恩恩 ※ 編輯: celestialgod (140.109.74.87), 06/23/2016 17:04:14
7F:推 clansoda: 附帶一提,如果有人爬到這篇文章,在跑的時候一直出現 06/24 14:29
8F:→ clansoda: Timeout reached的話,用timeout function設一個很大的 06/24 14:29
9F:→ clansoda: 數字就能解決這個問題了,害我一直跑失敗 06/24 14:30







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Soft_Job站內搜尋

TOP