作者dohProject (给你奖励)
看板AC_In
标题[心得] 学以致用的感觉真好
时间Tue May 19 01:58:28 2015
事情是这样的,小弟从以前就有上某水产生物国度的习惯,
每次就是打开,然後对着载点按右键,让JDownloader去爬,
但是光是处理一个月份(我都点特定月份当分类),滚完一个网页就要半小时以上,
虽然看图可以先过滤一次,避免抓到口味太重/太清淡的
然而最近的口味越来越广,这个过程渐渐不需要了(什麽烂理由)
每次捕捞一次都要滚半天实在嫌麻烦,於是动念写了一个小工具来爬网址
先看图吧:
http://i.imgur.com/414W7SI.jpg
是用C# WPF介面写成的,原则上Windows都能用
用法很简单,在上面第一栏填入目标网址,
第三栏填入想要寻找的网站空间,
然後按下最下面的GO就会开始,
可以看到下面就把我要的网址捞出来
(图内的连结都经过处理,请不要照填)
因为该空间有翻页的功能,也非常幸运地不需要什麽麻烦的WebRequest,
直接改page後面的数字就可以了
...当然不是手动一次一次改啦,
可以把page後面那个数字改成 {0} ←就这三个字元
这是C#的string format关键字,
不懂没关系,总之就是它会自动从1开始跑到抓不到网页
收网成功後,就把那些渔获再扔给JDownloader,
因为adf.ly需要一点时间才能把真网址爬出来,
这个应该超难的,幸好JD都会 (喂)
摆着给他爬几分钟就搞定了,再来应该各位都会
最後当然是载点
只有exe不解释:
https://goo.gl/6P0z9U
恳请赐教github:
https://github.com/dohProject/DLPointParser
原则上网页原始码清清楚楚有url连结的应该都可以用这玩意去跑,
刚刚测试另一个用mega的渔场也可以正常运作
以上大概就是这样,希望能帮得上跟我有一样习惯的人,
顺便帮我抓抓看有没有bug (殴
--
The internet is really really great~
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.166.84.208
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AC_In/M.1431971913.A.2B5.html
※ 编辑: dohProject (118.166.84.208), 05/19/2015 02:04:06
1F:推 dend930037: 推分享 推善意 感谢大大 05/19 02:04
2F:推 Doracacazin: 感谢 收下了m(_ _)m 05/19 02:30
3F:推 williexdgc77: 我也习惯一个月捞一次 不过还是会挑 05/19 03:40
4F:推 softseaweed: crawler拿来这样用XD 05/19 10:58
5F:推 pcshwe: 淦,浪费才能啦! 05/19 11:25
6F:推 o0991758566: 浪费才能 才怪 才能这时候不用何时才用(GJ 05/19 11:41
7F:推 BepHbin: 才能就该浪费在美好的事物上w 05/19 11:57
8F:推 zxvbnm: 果然高手在民间 05/19 12:43
9F:推 brightwish: 不知道什麽是水产生物国度... 05/19 13:32
10F:→ garfunkel: 河蟹吗 05/19 13:37
因为该站一向的信条就是低调,也不希望这玩意造成站长困扰,所以不好说什麽
不过那几个字词拿去版上/看看,爬一下应该猜得出来
※ 编辑: dohProject (140.113.157.57), 05/19/2015 13:48:16
11F:推 Silwez: 跪推 05/19 14:02
12F:推 sai0224sai: 好险我每天捞... 05/19 14:47
13F:→ KawasumiMai: 科技始终来至於 性 05/19 15:00
14F:推 a3831038: 感谢大大无私的分享 05/19 17:28
15F:推 GLaDOS1105: 推 05/19 19:17
16F:推 dderfken: 我有听过但是找不到 05/19 19:36
17F:推 backforward: 我也有写一个伊莉抓图姬在板上过XD 05/19 21:09
18F:推 a3831038: 楼上的也好用,感谢 05/19 23:18
其实也有计画把爬址功能延伸到抓图上,
不过我个人其实一直有疑虑,在那些论坛上一股脑贴出来的图应该都不是原图大小,
虽然没差多少,但是被缩过感觉就是怪怪的
就我所知E熊猫都有缩,伊莉则不清楚,
以往我个人都是不抓这些的,一来懒得一张一张点二来缩图问题,
甚至因此有些关键字索性不抓了...
改天(有空的话)再来拓展一下功能
※ 编辑: dohProject (36.228.236.67), 05/20/2015 00:30:07
19F:推 dany567: 伊莉我自己丢上去是会缩图,上传才会比较快 05/20 00:59
20F:推 storyofwind: 科技始终来自性慾 05/20 07:21
21F:推 chann: 感谢推 05/20 11:43
22F:推 x7908347: 哭惹 不知道为什麽按GO都会停止运作阿阿阿阿 05/21 22:12
23F:推 x7908347: 抱歉 是我太笨 一直在例外贴网址..... 05/21 22:22