天天看點

2、web爬蟲,scrapy子產品以及相關依賴子產品安裝

目前環境python3.5 ,windows10系統

Linux系統安裝

線上安裝,會自動安裝scrapy子產品以及相關依賴子產品

pip install Scrapy           

手動源碼安裝,比較麻煩要自己手動安裝scrapy子產品以及依賴子產品

安裝以下子產品

1、lxml-3.8.0.tar.gz (XML處理庫)

2、Twisted-17.5.0.tar.bz2 (用Python編寫的異步網絡架構)

3、Scrapy-1.4.0.tar.gz (進階web爬行和web抓取架構)

4、pyOpenSSL-17.2.0.tar.gz (OpenSSL庫)

5、queuelib-1.4.2.tar.gz (Queuelib是用于Python的持久(基于磁盤的)隊列的集合)

6、w3lib-1.17.0.tar.gz (與web相關的函數的Python庫)

7、cryptography-2.0.tar.gz (密碼學是一種包)

8、pyasn1-0.2.3.tar.gz (ASN類型和編解碼器)

9、pyasn1-modules-0.0.9.tar.gz (ASN的集合。基于協定子產品)

10、cffi-1.10.0.tar.gz (用于Python調用C代碼的外部函數接口)

11、asn1crypto-0.22.0.tar.gz (快速的ASN一個解析器和序列化器)

12、idna-2.5.tar.gz (應用程式中的國際化域名(IDNA))

13、pycparser-2.18.tar.gz (C解析器在Python中)

windows系統安裝

windows安裝,首先要安裝pywin32,根據自己的系統來安裝32位還是64位

pywin32-221.win32-py3.5.exe

pywin32-221.win-amd64-py3.5.exe

線上安裝

pip install scrapy           

測試是否安裝成功

在cmd終端,運作python

然後運作:import scrapy  ,沒有提示錯誤說明安裝成功

2、web爬蟲,scrapy子產品以及相關依賴子產品安裝

【轉載自:

https://www.jianshu.com/u/3fe4aab60ac4