Scrapy(爬蟲應用框架)安裝配置

2022-06-25 17:36:11 字數 1804 閱讀 8526

執行平台:windows 

python版本:python3.x 

一、scarpy 簡介

scrapy是乙個為了爬取**資料提取結構性資料而編寫的應用框架,可以應用於資料探勘,資訊處理或儲存歷史資料等一些列的程式中。scrapy最初就是為了網路爬取而設計的。

學習scrapy,它能我們更好的完成爬蟲任務,自己寫python爬蟲程式好比孤軍奮戰,而使用了scrapy就好比手底下有了千軍萬馬。scrapy可以起到事半功倍(甚至好幾倍*.*)的效果。所以,學習scrapy也就顯得很有必要了。

二、scrapy安裝

1、直接在dos中使用命令『pip3 install scrapy』,可能會報多種錯誤,例如圖示,就是本人在安裝過程中碰到的錯誤

2、解決方法

查閱了很多網上的資料,是因為直接安裝scrapy時,好多庫在windows上並沒有安裝,所以只能一步步安裝第三方庫了,還好python有很多編譯好的第三方庫:

安裝scrapy需要的第三方庫lxml、twisted、scrapy

(1)首先在cmd中輸入python,檢視自己電腦對應的python版本

圖上可以看到我自己電腦上安裝的是python3.6.0

(4)依次執行下列命令

這樣scrapy的安裝就完成了

至此,大功告成,我們可以愉快的使用scrapy了。

注意:在cmd中輸入scrapy可以檢視是否安裝完成,很好高興,我一次安裝成功了,如果有warning,檢視是那個庫沒有裝,然後使用pip3 install xx(庫名)安裝即可

安裝scrapy 爬蟲框架

安裝scrapy 爬蟲框架 個人根據學習需要,在windows搭建scrapy爬蟲框架,搭建過程種遇到個別問題,共享出來作為記錄。1.安裝python 2.7 1.2配置環境變數 以下內容新增到path中 c python27 c python27 scripts 開啟cmd執行如下內容 c pyt...

安裝 python 爬蟲框架 Scrapy

官方安裝說明文件 一 scrapy 需要以下依賴 二 一般來說,你可以通過以下命令直接安裝 scrapy 依賴會被自動安裝 pip3 install scrapy注 關於pip 和 pip3 的區別,請看 這裡 三 乙個常見的問題是 安裝 twisted 時,會報 microsoft visual ...

scrapy爬蟲框架

作者經過幾周的python爬蟲實踐之後,深入學習了一下scrapy這個爬蟲框架,現將一些基本知識和 總結整理一下,以備後查。2.scrapy的命令列使用 這部分網上很多部落格都有總結,不需要背,理解會用主要的命令 startproject crawl fetch list genspider.即可,...