scrapy安裝與配置

2021-09-02 07:12:19 字數 1711 閱讀 1389

scrapy的安裝有多種方式,它支援python2.7版本及以上或者是python3.3版本及以上。下面來說py3環境下,scrapy的安裝過程。

scrapy依賴的庫比較多,至少需要依賴庫twisted 14.0,lxml 3.4,pyopenssl 0.14。在不同平台環境又不相同,所以在安裝前確保先把一些基本庫安裝好,尤其是windows。

回到頂部

這種方法是一種比較簡單的安裝scrapy的方法(尤其對windows來說),你可以使用該方法安裝。也可以選用下文中專用平台的安裝方法。

如果已經安裝了,可以通過conda命令安裝scrapy。

安裝如下:

先開啟anaconda的 anaconda prompt 輸入

conda install scrapy
如圖所示表示安裝成功:

回到頂部

#如果是python2版本,pip3改為pip2

即可完成lxml的安裝,其他檔案替換檔名即可。

pip3 install pyopenssl-16.2.0-py2.py3-none-any.whl

pip3 install twisted‑17.1.0‑cp35‑cp35m‑win_amd64.whl
最後安裝scrapy即可,依然使用pip,命令如下:

pip3 install scrapy
回到頂部

依賴庫安裝,確保一些必須的類庫已經安裝,執行如下命令:

sudo yum groupinstall development tools

sudo yum install python34-devel epel-release libxslt-devel libxml2-devel openssldevel

pip3 install scrapy

回到頂部

依賴庫安裝,確保一些必須的類庫已經安裝,執行如下命令:

sudo apt-get install build-essential python3-dev libssl-dev libffi-dev libxml2 libxml2-dev libxslt1-dev zlib1g-dev
pip3 install scrapy
回到頂部

依賴庫安裝,在mac上構建scrapy的依賴庫需要c編譯器以及開發標頭檔案,他一般由xcode提供,執行如下命令安裝即可:

xcode-select --install

pip3 install scrapy

驗證:

安裝之後,在命令列輸入scrapy,如果出現類似下方的結果,那麼久恭喜你安裝成功scrapy。

回到頂部

記錄 安裝scrapy與pywebkitgtk

記錄 安裝scrapy與pywebkitgtk 我是新裝的ubuntu13.04 因為scrapy是依賴python的,所以先安裝python開發包 plain sudo apt get install python dev 安裝easy install plain wget q python ez...

Scrapy框架安裝與介紹

怎麼判定安裝成功呢?終端輸入scrapy 回車 顯示如圖即為安裝成功 首先要建立乙個新的scrapy專案,預設是在c盤建立,如果要建立在別的盤裡可以通過cd 加上空格 或d 的形式 其中baidu是專案名稱 scrapy.cfg 專案的配置檔案 spiders items.py 專案的目標檔案 sp...

scrapy 安裝 安裝scrapy時出錯

python3環境下安裝scrapy 環境 win7,win10 python 3.5.2 1.首先開啟anaconda prompt 執行命令 pip install scrapy 若未出錯,表示安裝成功,鍵入以下命令測試即可 python 進入python環境 再鍵入 import scrapy...