版本選擇
由於分布式爬蟲用到了scrapy-redis,它對於版本的要求如下(當然 隨著更新會支援更新版本的python)
requirements
python 2.7, 3.4 or 3.5
redis >= 2.8
scrapy >= 1.1
redis-py >= 2.10
由於自己需要同時用到多個版本python,方便起見,搭建虛擬環境。有時候從github轉殖別人**,在自己本地環境下執行,也需要用到虛擬環境。非生產環境,只是自己在本機上跑,所以針對的是windows版本。
建立虛擬環境
pip install virtualenv
虛擬環境管理包:
若安裝成功 但使用workon命令失敗 後面再查下原因
安裝python3.5 ,2.7(略)
給2.7,3.5分別建立虛擬環境
沒有使用虛擬環境管理包可參考以下啟動方式
使用虛擬環境下指定路徑使用python3啟動 :virtualenv -p d:\\program\anaconda\\python.exe d:\\programs\\env\\scrapy3
(路徑中不要包含空格等 容易出現錯誤 如:個人被坑d:\program files (x86),一直以為它沒問題 結果就是路徑無法識別)
進入虛擬環境
workon 檢視本機所有虛擬環境
workon py3scrapy 進入虛擬環境
安裝scrapy:
檢視版本:scrapy -h
scrapy 1.5.0 - no active project
安裝若出現錯誤:
error: microsoft visual c++ 14.0 is required. get it with "microsoft visual
c++ build tools":
解決方式:
進入虛擬環境安裝:
(article_spider) e:\spider\article_spider\scripts>pip install twisted-17.9.0-cp3
6-cp36m-win_amd64.whl
processing e:\spider\article_spider\scripts\twisted-17.9.0-cp36-cp36m-win_amd64.
whl安裝後再安裝scrapy即可。
scrapy之環境安裝
在之前我安裝了scrapy,但是在pycharm中卻無法使用。具體情況是 我的電腦上存在多個python,有python2,python3,anaconda,其中anaconda中的python為python3。我在powershell中直接鍵入scrapy可以使用。解決 我在網上找了很多解決方案,...
hbase 安裝環境準備
本機建立三個虛擬機器,hostname ipname password centos2 192.168.75.101 root root123 centos3 192.168.75.102 root root123 centos4 192.168.75.103 root root123 1.修改ho...
pyqt環境安裝準備
7 其實linux環境的安裝可以說是最簡單,因為自己使用的debian作業系統提供了自動化安裝apt,但是出於安裝可能面臨無網環境的考慮,盡量用原始碼安裝比較穩妥。目前計畫選擇的版本是pyqt5.3 py3.4 qt5.3.0,sip直接選擇最新的版本。選擇這些版本的主要理由是windows環境,我...