R_Language 板


LINE

請教各位爬蟲界的先進,如何讓Rselenium找到下拉式選單中對應的網頁。 幾週前我發問了如何把 QuickFS 網頁的表格爬下來。在這個網站裡,每支股票有自已的 一個網址,同一個網址下有5個頁面 (Overview, Income Statement, Balance sheet, Cash flow statement, Key ratios),由一個右上角的拉下式選單來決定。網頁的特點 是,不論你到那個選項,網址都是一樣的。 我目前的進度是可以把主要頁面 (選單中的選項= Overview) 中所有表格爬下來。接著, 我想讓Rselenium可以到選單中的每個選項頁面把所有表格爬下來。我參考了幾篇stackoverflow 上提供的code, 但還沒有一個能適用於我想爬的網頁。感覺可能的方法至少有兩個,一是 findElement()這個function把選單中的id及值取出; 另一個是把對應選單的element的 xpath烤下來,再套用某個function裡。第一個我試了error, 第二個我也不知道如何寫 xpath. 我把我的R程式, 及java, chrome driver的設定放在我的hackMD上面 。希望先進們指教。 https://i.imgur.com/fhiamGY.png 選址是 https://hackmd.io/@Chang/RSelenium_QuickFS 裡面有三個部分 (1) Connect Chrome driver, RSelenium (2) Scrape all tables of the webpage where dropdown option is “Overview” (3) Scrape tables on the webpage where dropdown option is “Income Statement ” (not working) 我預到的問題是放在最後一個部分。目前我只能把我認為是和選單中選項相對應的 elements烤下來,期待有人能教我如何讓 RSelenium進到對應的網頁裡拿表格。以下 的網頁程式碼看起來就是選單中的5個選項。我不解為何 con$findElement(using = 'id', value = "ovr") 會error <a _ngcontent-c4="" id="ovr">Overview</a> </li><li _ngcontent-c4=""> <a _ngcontent-c4="" id="is">Income Statement</a> </li><li _ngcontent-c4=""> <a _ngcontent-c4="" id="bs">Balance Sheet</a> </li><li _ngcontent-c4=""> <a _ngcontent-c4="" id="cf">Cash Flow Statement</a> </li><li _ngcontent-c4=""> <a _ngcontent-c4="" id="ratios">Key Ratios</a> 想學RSelenium爬蟲但還沒開始的朋友們,可以參考第1及2部分裡的步驟。 感謝。 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.51.168.78 (澳大利亞)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/R_Language/M.1617250858.A.4FA.html
1F:→ obarisk: 要不要先用selenium ide錄看看啊. 04/01 20:00







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping站內搜尋

TOP