Python 板


LINE

各位大大好 最近在抓臉書貼文的資料 可是因為要用的資料差不多是在2013年~2014年的貼文資料 但是目前都是從最新的貼文開始抓 這樣一來浪費時間跟資源 而且最後變成抓下來的行數太多 檔案開不起來= = 有沒有辦法直接從2014年開始往2013年抓呢?(我有辦法讓他抓到2013年的時候結束) 我使用下面網址的寫法 http://bhan0507.logdown.com/posts/1816236 import requests import pandas as pd from dateutil.parser import parse #在Facebook Graph API Exploer取得token以及粉絲專頁的ID token = '你的專屬token' fanpage_id = '1502894619932654' #建立一個空的list information_list = [] #目標頁面 res = requests.get('https://graph.facebook.com/v2.8/{}/posts?limit=100&access_token={}'.format(fanpage_id, token)) page = 1 #API最多一次呼叫100筆資料,因此使用while迴圈去翻頁取得所有的文章 while 'paging' in res.json(): for index, information in enumerate(res.json()['data']): print('正在爬取第{}頁,第{}篇文章'.format(page, index + 1)) #判斷是否為發文,是則開始蒐集按讚ID if 'message' in information: res_post = requests.get('https://graph.facebook.com/v2.8/{}/likes?limit=1000&access_token={}'.format(information['id'], token)) #判斷按讚人數是否超過1000人,若超過則需要翻頁擷取;當沒有人按讚時 ,按讚人名與ID皆為NO try: if 'next' not in res_post.json()['paging']: for likes in res_post.json()['data']: information_list.append([information['id'], information['message'], parse(information['created_time']).date(), likes['id'], likes['name']]) elif 'next' in res_post.json()['paging']: while 'paging' in res_post.json(): for likes in res_post.json()['data']: information_list.append([information['id'], information['message'], parse(information['created_time']).date(), likes['id'], likes['name']]) if 'next' in res_post.json()['paging']: res_post = requests.get(res_post.json()['paging']['next']) else: break except: information_list.append([information['id'], information['message'], parse(information['created_time']).date(), "NO", "NO"]) if 'next' in res.json()['paging']: res = requests.get(res.json()['paging']['next']) page += 1 else: break print('爬取結束!') 麻煩各位大大了 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.15.211
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Python/M.1496487004.A.B2B.html
1F:→ peefly: 可以加since和until參數來過濾時間範圍 06/03 19:23
2F:→ peefly: 可以參考這篇用法 https://goo.gl/LCGnTs 06/03 19:23
3F:→ p2p8ppp: 謝謝大大 可是他這個用法是不是最多只能抓35天的資料o 06/03 19:31
4F:→ p2p8ppp: rz 06/03 19:31
5F:→ p2p8ppp: 可是我會抓到一年份的資料orz 06/03 19:35
6F:推 sky800507: hi 部落格是我寫的XD,有在上面回覆你了 06/04 12:34
7F:→ p2p8ppp: 竟然XDDD 謝謝你的教學orz 06/04 20:43







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:e-shopping站內搜尋

TOP