天天看點

采集免費ip,制作自己的代理ip池

采集免費ip,制作自己的代理ip池

第一步,選擇一個免費代理ip的網站,把他們網站的所有ip都爬取下來,

免費的代理IP不同網站品質也不盡相同,如果大家對于代理IP品質要求比較高,或者需要大量穩定代理IP的話,還是建議大家進行購買啦~

提取的時候,使用正規表達式,

這種免費代理,絕大部分,都是不可用的,

第二步,用request庫去請求驗證這個ip,然後把可用的ip,都提取出來,

要想判斷所使用的代理IP是否有用,隻需要通過代理IP通路IP位址查詢網站抓取位址以及歸屬地資訊并與不使用代理IP時的位址資訊以及歸屬地資訊進行比較即可。

在浏覽器通路icanhazip.com,浏覽器會直接傳回你的出口IP(也叫公網IP)。或者百度“IP”也可以傳回你的出口IP。

浏覽器通路IP138.com 或者http://ip.chinaz.com/,就可以得到外網位址。icanhazip.com

采集免費ip,制作自己的代理ip池

第三步,把可用的ip,都儲存到資料庫,

如此就能拿到新鮮免費的代理ip了,為了使得ip能多次使用,我将其存入mysql資料庫中。

寫入代碼如下

讀取代碼如下

整個過程使用python+re+request+mysql來完成,

####

#####

######