Python 板


LINE

其實首先網頁都是stateless的 所以不能有該連線的狀態可以維持一陣子 基本當資料傳送+接收完其連線就會結束 沒辦法讓你像開個socket一樣放在那裡一值用 然後我定義好一個目的就是 我要能拿到目標資料 首先第一步就是 def getcontent(相關的連線參數->參數或是global都可以): con = 連線 rs = 得到資料 return rs 在你的主要邏輯就可以分離了 soup = BeautifulSoup(getcontect(連線參數)) 接著就可以在該getcontent增加一些東西 例如 1.如果得到資料失敗可以在試看看然後有次數的限制 def getcontect(retry = 5 , retrytime=100): exception = none for in in range(5): try: con=連線 rs = 得到資料 處理其他->或是也可放在final處理 看你摟 可以先判斷一下得到的內容是不是正確->通常有值我就當正確了然後就回傳了 if rs : return rs except XXException: exception = 處理錯誤 其他錯誤例外處理... time.sleep(retrytime) if exception : raise exception return '' -->這裡要看回傳空 還是丟出錯誤 就看你 如果要處理連線的問題 你是使用open然後read其實就是連線的時候才需要開啟 如果沒事的話該連線就會關閉 這是http +tcp/ip的特性 除非用socket 可是你連的是網站就是這樣 所以前提就是你要知道連線的特性 提供給你參考 ※ 引述《darklimit ()》之銘言: : 應用隨機休息再繼續,還是會出現這樣的錯誤 : error: [Errno 10054] 遠端主機已強制關閉一個現存的連線。 : 進行except例外處理,continue繼續的話 : 後面nameTag對應到的genre,rating 全部都會打亂 : 這樣應該要怎麼處理? : 謝謝 : for i in idlist: : headers = {'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT : 6.1;en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'} : req = : urllib2.Request("http://www.imdb.com/title/tt"+i+"/",headers=headers) : try: : html = : urllib2.urlopen("http://www.imdb.com/title/tt"+i+"/",timeout = 30) : htmls = html.read() : html.close : soup = BeautifulSoup(htmls) : nameTag = [a.get_text() for a in soup.find_all("title")] : genreTag = [a.get_text() for a in : soup.find_all("span",{"itemprop":"genre"})] : ratingTag = soup.find_all("span",{"itemprop":"ratingValue"}) : for tag in nameTag: : titlelist.append(nameTag) : for tag in genreTag: : genrelist.append(genreTag) : break : for tag in ratingTag: : val = ''.join(tag.find(text=True)) : valuelist.append(val) : except HTTPError, e: : print e.code : print e.read() : #continue : except URLError, e: : print 'Reason: ', e.reason : #continue : rsleep = random.randint(10, 40) : time.sleep(rsleep) : return zip(titlelist, genrelist, valuelist) -- --



※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 163.29.28.131
1F:→ darklimit:謝謝你提供的建議與想法,XD謝謝~ 05/22 17:59







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping站內搜尋

TOP