Python 板


LINE

各位大大晚安,不才想請教兩個問題<(_ _)> 我目前希望可以處理一份很巨大的xml,但是我手上的xml檔沒有樹根! 經過測試我發現會報錯QAQQQ 我看到別人的解法好像是先把檔案開啟來,然後寫入樹根? 但是我目前需要動態迭代,因為檔案很大,無法一次存入記憶體, 我試著引用查到的程式碼,我的程式目前長如下網址 http://codepad.org/bPqMyuly 感覺好像不適合用那種open然後加入樹根的方式,不知道版上大大有好建議嘛? 譬如怎麼跟著迭代動態寫入樹根? 我的XML格式如下: <doc id="13" url="https:XXX" title="XX"> content 1 </doc> <doc id="15" url="https:XXX" title="XX"> content 2 </doc> 另外想問我希望搜尋文檔中xml的content,然後如果我的keyword有出現在content中, 就回報我content的id,讓我知道哪些content中有出現我的keyword, 我操作如下 先把xml分析出id和content之後,存入MySQL資料庫, 再藉由SELECT id FROM table WHERE content = "%keyword%" 找出哪些文章出現我的關鍵字 這樣子的操作會有問題嘛?譬如MySQL會搜很慢之類的? 如果有問題,我怎樣做比較好? p.s我的關鍵字都是中文 -- 壁河山攻守 爭成敗悟道 許銀川 --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.141.34
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Python/M.1526226246.A.D68.html
1F:→ ThxThx: 一行一行讀 05/14 01:43
2F:→ ThxThx: 讀到close tag 就把累積的內容拿去parse 05/14 01:43
這樣聽起來,我需要自己用正規表達式判斷是不是close tag,不能用現成套件Q 不是很擅長正規表達式的說QAQ
3F:→ s860134: 你的問題應該是在檔案太大,寫入 sql 很好阿 05/14 12:58
4F:→ s860134: 後來網路上有人提示 etree.HTML 就可已爬沒 root 的 05/14 13:07
5F:→ s860134: https://stackoverflow.com/a/23891862 05/14 13:07
6F:→ s860134: 你直接當作 html 爬應該是沒什麼差 05/14 13:08
其實我有看到下面寫html,但是我試著導入HTML之後,進行迭代依舊出錯, 所以在想是不是html版並無迭代功能,當然也可能是我自己用錯了>"<
7F:推 subi: http://codepad.org/qw3YwJsx 不知道這樣字是不是你要的 05/14 20:35
待我研究一下此版本是否可以迭代運算,不然檔案太大會吃不下,要邊吃邊釋放
8F:→ subi: 我覺得你應該搭配 generator 來寫,可以避免記憶體問題 05/14 21:11
好,我研究一下,html系列好像真的沒有iterparse函式, 有沒有其他相應函式我不清楚... 我研究一下generator,剛剛直接執行,電腦差點當掉,還好我即時喊停>"< 不太清楚generator要如何搭配QAQQQ 您給予的程式在我稍做修改,加入正式大量數據時就會造成電腦當機 當在執行soap = BeautifulSoup(file, "lxml") 我猜測再這一步運行時,就會需要將整個檔案導入,所以記憶體無法負荷, 而generator好像是在這步之後的步驟? 怪怪的剛剛想貼程式碼再測試時結果不一樣了,沒有當,但是只有輸出一筆 然後soap = BeautifulSoup(fn, "lxml") 這邊卡了很久 http://codepad.org/iLwM633k # 阿阿,我崩潰了╯-____-)╯~═╩════╩═~ 開了很久,手動加上root結果還是爆了,這不是那麼乾淨的xml 直接把檔案丟上來好了... 我發現BeautifulSoup在比較小那份可以跑,但是他默默的沒有跑完就停了... 之後可能考慮真的一行一行讀吧 https://drive.google.com/drive/folders/ 1hWUIROmnJE-GuSxc2079JmRwMF-zbQ9g?usp=sharing 短網址:https://goo.gl/X2seS3
9F:推 subi: http://codepad.org/wFYpWu6s 05/15 20:35
10F:→ subi: 可以參考我上面貼的程式碼,檔案這麼大我覺得你用 lxml是對的 05/15 20:36
11F:→ subi: 跑一會有 EntityRef: expecting ';', line 2603, column 60 05/15 20:37
12F:→ subi: 這個你就自己解吧 XD 05/15 20:38
有大神遠端幫忙解好了,感謝您 <3 秉持互助原則把大神寫好的清理程式放上來 perl版 http://codepad.org/7BzB36yW python版 http://codepad.org/FNZmO1pD 希望以後可以幫到更多需要的人^^ (大神如果您覺得不合適可以叫我撤下) ※ 編輯: st1009 (1.163.154.100), 05/16/2018 23:07:09







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Soft_Job站內搜尋

TOP