本文主要實作一個簡單的爬蟲,目的是從一個百度貼吧頁面下載下傳圖檔。
1. 概述
本文主要實作一個簡單的爬蟲,目的是從一個百度貼吧頁面下載下傳圖檔。下載下傳圖檔的步驟如下:
- 擷取網頁html文本内容;
- 分析html中圖檔的html标簽特征,用正則解析出所有的圖檔url連結清單;
- 根據圖檔的url連結清單将圖檔下載下傳到本地檔案夾中。
2. urllib+re實作
#!/usr/bin/python
# coding:utf-8
# 實作一個簡單的爬蟲,爬取百度貼吧圖檔
import urllib
import re
# 根據url擷取網頁html内容
def getHtmlContent(url):
page = urllib.urlopen(url)
return page.read()
# 從html中解析出所有jpg圖檔的url
# 百度貼吧html中jpg圖檔的url格式為:<img ... src="XXX.jpg" width=...>
def getJPGs(html):
# 解析jpg圖檔url的正則
jpgReg = re.compile(r'<img.+?src="(.+?\.jpg)" width') # 注:這裡最後加一個'width'是為了提高比對精确度
# 解析出jpg的url清單
jpgs = re.findall(jpgReg,html)
return jpgs
# 用圖檔url下載下傳圖檔并儲存成制定檔案名
def downloadJPG(imgUrl,fileName):
urllib.urlretrieve(imgUrl,fileName)
# 批量下載下傳圖檔,預設儲存到目前目錄下
def batchDownloadJPGs(imgUrls,path = './'):
# 用于給圖檔命名
count =
for url in imgUrls:
downloadJPG(url,''.join([path,'{0}.jpg'.format(count)]))
count = count +
# 封裝:從百度貼吧網頁下載下傳圖檔
def download(url):
html = getHtmlContent(url)
jpgs = getJPGs(html)
batchDownloadJPGs(jpgs)
def main():
url = 'http://tieba.baidu.com/p/2256306796'
download(url)
if __name__ == '__main__':
main()
運作上面腳本,過幾秒種之後完成下載下傳,可以在目前目錄下看到圖檔已經下載下傳好了:
3. requests + re實作
下面用requests庫實作下載下傳,把getHtmlContent和downloadJPG函數都用requests重新實作。
#!/usr/bin/python
# coding:utf-8
# 實作一個簡單的爬蟲,爬取百度貼吧圖檔
import requests
import re
# 根據url擷取網頁html内容
def getHtmlContent(url):
page = requests.get(url)
return page.text
# 從html中解析出所有jpg圖檔的url
# 百度貼吧html中jpg圖檔的url格式為:<img ... src="XXX.jpg" width=...>
def getJPGs(html):
# 解析jpg圖檔url的正則
jpgReg = re.compile(r'<img.+?src="(.+?\.jpg)" width') # 注:這裡最後加一個'width'是為了提高比對精确度
# 解析出jpg的url清單
jpgs = re.findall(jpgReg,html)
return jpgs
# 用圖檔url下載下傳圖檔并儲存成制定檔案名
def downloadJPG(imgUrl,fileName):
# 可自動關閉請求和響應的子產品
from contextlib import closing
with closing(requests.get(imgUrl,stream = True)) as resp:
with open(fileName,'wb') as f:
for chunk in resp.iter_content():
f.write(chunk)
# 批量下載下傳圖檔,預設儲存到目前目錄下
def batchDownloadJPGs(imgUrls,path = './'):
# 用于給圖檔命名
count =
for url in imgUrls:
downloadJPG(url,''.join([path,'{0}.jpg'.format(count)]))
print '下載下傳完成第{0}張圖檔'.format(count)
count = count +
# 封裝:從百度貼吧網頁下載下傳圖檔
def download(url):
html = getHtmlContent(url)
jpgs = getJPGs(html)
batchDownloadJPGs(jpgs)
def main():
url = 'http://tieba.baidu.com/p/2256306796'
download(url)
if __name__ == '__main__':
main()
輸出:和前面一樣。