scrapy工程建立

2021-10-05 05:48:41 字數 626 閱讀 3388

1)先宣告,我也是學習,只管操作,不管原理

2)進入c:\working\acticlespider  我們今後的所有scrapy工程都在其下面

3)workon scrapy_spider 在c:\working\acticlespider 下進入虛擬環境

4)安裝scrapy  pip install -i scrapy >2.txt  使用豆瓣源安裝,不過你應該回報twisted錯誤

之所以 >2.txt,是把安裝日誌輸出到2.txt下,我們好看問題

6)同樣,需要進入虛擬環境scrapy_spider  進行twisted的安裝 pip install twisted-20.3.0-cp38-cp38-win_amd64.whl

7)再次安裝scrapy scrapy  pip install -i scrapy >2.txt  應該會安裝成功

8)在workon scrapy_spider 在c:\working\acticlespider 這個下建立scrapy工程

scrapy startproject scrspider 這樣就建立了乙個scrapy工程在c:\working\acticlespider下面

9)起始如果不熟悉,可以使用vmware多裝幾個虛擬機器,在它裡面開發

Eclipse配置scrapy工程

最近畢業設計選的是python網路爬蟲,python現成的爬蟲模組有很多,scrapy,bs4等等,但是我參考的教科書上面說scrapy參考文獻較多,也比較簡單,便決定用這個模組來做爬蟲。書中的工程是用linux終端來做爬蟲,但是本人linux小白,而且更加傾向於用windows平台下的eclips...

建立scrapy專案

1.windows r開啟 cmd命令列工具,cd desktop 進入到桌面目錄 2.輸入建立專案命令 scrapy startproject 專案名 3.cd 到 專案目錄下 cd專案名 4.執行建立爬蟲的命令 scrapy genspider 爬蟲名 爬蟲起始 5.使用pycharm開啟專案,...

建立scrapy專案

1.選擇合適的資料夾,在pycharm中的terminal中輸入 scrapy startproject spider,建立爬蟲專案spider。2.執行命令後,得到乙個名為spider的資料夾,檔案結構如下 3.進入專案根目錄 cd spider 4.建立爬蟲檔案agri.py scrapy ge...