采集免費ip,制作自己的代理ip池
第一步,選擇一個免費代理ip的網站,把他們網站的所有ip都爬取下來,
免費的代理IP不同網站品質也不盡相同,如果大家對于代理IP品質要求比較高,或者需要大量穩定代理IP的話,還是建議大家進行購買啦~
提取的時候,使用正規表達式,
這種免費代理,絕大部分,都是不可用的,
第二步,用request庫去請求驗證這個ip,然後把可用的ip,都提取出來,
要想判斷所使用的代理IP是否有用,隻需要通過代理IP通路IP位址查詢網站抓取位址以及歸屬地資訊并與不使用代理IP時的位址資訊以及歸屬地資訊進行比較即可。
在浏覽器通路icanhazip.com,浏覽器會直接傳回你的出口IP(也叫公網IP)。或者百度“IP”也可以傳回你的出口IP。
浏覽器通路IP138.com 或者http://ip.chinaz.com/,就可以得到外網位址。icanhazip.com

第三步,把可用的ip,都儲存到資料庫,
如此就能拿到新鮮免費的代理ip了,為了使得ip能多次使用,我将其存入mysql資料庫中。
寫入代碼如下
讀取代碼如下
整個過程使用python+re+request+mysql來完成,
####
#####
######