接上篇文章,在python3.6.4安裝完成的基礎上,安裝相關依賴模組及pyspider。
1.setuptools和pip
setuptools和pip是python的包管理工具,python3會預設安裝,版本可能不是最新,需要手動公升級一下。這2個模組在python3的安裝日誌結尾處有提示。
2.phantomjs
phantomjs實現了乙個無介面的webkit瀏覽器,用於渲染解析動態頁面非常好用。
解壓
tar -jxvf phantomjs-2.1.1-linux-x86_64.tar.bz2建立phantomjs安裝目錄到/usr/local/bin/目錄的軟鏈結
ln -s /path/to/bin/phantomjs /usr/local/bin/phantomjs將 phantomjs拷貝到/usr/bin/ 目錄下,否則pyspider啟動時不會自動啟動phantomjs
scp /path/to/bin/phantomjs /usr/bin/3.其它
yum -y install libxml2 libxml2-dev libxslt*zlib gcc openssl重新編譯安裝pythonyum -y install libcurl-devel
yum install gcc libffi-devel python-devel openssl-devel
yum install sqlite-devel
./configure --prefix=/usr/local/python3make
make install
pip3 install pyspider無報錯則安裝成功,常見的報錯型別見下節。
pyspider &訪問 ip:5000,如下則安裝成功
pyspider環境部署1 python3安裝
環境準備 centos7 centos系統會自帶python2,我們最好不理它,使用python3執行python指令碼,因為有些程式會依賴python2環境,比如yum。1.安裝依賴環境 3.安裝python3 我個人習慣安裝在 usr local python3 建立目錄 mkdir p usr...
hadoop的開發環境部署(2)
將壓縮包放入共享資料夾中 虛擬機器共享資料夾的建立,詳情請移步另一文章 將壓縮包解壓 sudo tar zxvf hadoop 2.9.2.tar.gz c usr local 後將此資料夾更名為hadoop cd usr local mv hadoop 2.9.2 hadoop 修改檔案許可權 s...
egg pm2配置線上部署環境
最近在寫egg後台專案,部署到線上環境的時候想用pm2程序管理器來進行配置,查閱了一翻資料設定通了,記下來其他人有用到的可以拿去 在egg專案的根目錄定義啟動檔案 server.js const egg require egg const workers number process.ar 2 re...