pyspider環境部署2 pyspider安裝

2022-01-16 07:44:46 字數 1182 閱讀 7432

接上篇文章,在python3.6.4安裝完成的基礎上,安裝相關依賴模組及pyspider。

1.setuptools和pip

setuptools和pip是python的包管理工具,python3會預設安裝,版本可能不是最新,需要手動公升級一下。這2個模組在python3的安裝日誌結尾處有提示。

2.phantomjs

phantomjs實現了乙個無介面的webkit瀏覽器,用於渲染解析動態頁面非常好用。

解壓

tar -jxvf phantomjs-2.1.1-linux-x86_64.tar.bz2
建立phantomjs安裝目錄到/usr/local/bin/目錄的軟鏈結

ln -s /path/to/bin/phantomjs /usr/local/bin/phantomjs
將 phantomjs拷貝到/usr/bin/ 目錄下,否則pyspider啟動時不會自動啟動phantomjs

scp /path/to/bin/phantomjs /usr/bin/
3.其它

yum -y install libxml2 libxml2-dev libxslt*zlib gcc openssl

yum -y install libcurl-devel

yum install gcc libffi-devel python-devel openssl-devel

yum install sqlite-devel

重新編譯安裝python

./configure --prefix=/usr/local/python3

make

make install

pip3 install pyspider
無報錯則安裝成功,常見的報錯型別見下節。

pyspider &
訪問 ip:5000,如下則安裝成功

pyspider環境部署1 python3安裝

環境準備 centos7 centos系統會自帶python2,我們最好不理它,使用python3執行python指令碼,因為有些程式會依賴python2環境,比如yum。1.安裝依賴環境 3.安裝python3 我個人習慣安裝在 usr local python3 建立目錄 mkdir p usr...

hadoop的開發環境部署(2)

將壓縮包放入共享資料夾中 虛擬機器共享資料夾的建立,詳情請移步另一文章 將壓縮包解壓 sudo tar zxvf hadoop 2.9.2.tar.gz c usr local 後將此資料夾更名為hadoop cd usr local mv hadoop 2.9.2 hadoop 修改檔案許可權 s...

egg pm2配置線上部署環境

最近在寫egg後台專案,部署到線上環境的時候想用pm2程序管理器來進行配置,查閱了一翻資料設定通了,記下來其他人有用到的可以拿去 在egg專案的根目錄定義啟動檔案 server.js const egg require egg const workers number process.ar 2 re...