Xshell部署spark步驟

2021-08-21 23:33:50 字數 679 閱讀 5820

執行spark 命令

1.ssh 主機id  鏈結測試環境ip

2.輸入使用者名稱和密碼  

3.輸入 cd ... 到根目錄(返回cd .. 到上級目錄)

4.輸入 pwd到根目錄

5.輸入 ls檢視根目錄下的資料夾

6.輸入 cd project 進入所在資料夾(直接進入某個目錄:cd  /project/projectshell)

7.輸入 ll 檢視資料夾下 project 的所有檔案大小及建立時間

8.繼續輸入cd與ll指令,直到找到相應的sh檔案

9.輸入 cat file.sh 顯示該資料夾的指令資訊

10. 輸入 ./file.sh 引數 執行spark

部署 spark指令碼

1.找到相應的部署資料夾

2.在檔案路徑下新建資料夾 touch test.sh

3.輸入 chmod+x test.sh 給文夾test.sh加操作許可權

4.vim test.sh 在test.sh資料夾中 輸入執行檔案的指令 儲存指令為spark分配環境

部署 spark的jar包

1.進入相應的資料夾下cd 資料夾

2.輸入 rz(如果是大檔案,需要輸入 rz -be)指令,enter

3.選擇jar包enter

4.rm -rf 目錄名字  刪除某個資料夾

部署安裝 Spark

前言 spark簡介 spark是整個bdas的核心元件,是乙個大資料分布式程式設計框架,不僅實現了mapreduce的運算元map 函式和reduce函式及計算模型,還提供更為豐富的運算元,如filter join groupbykey等。是乙個用來實現快速而同用的集群計算的平台。spark將分布...

Spark單機部署

spark版本選型 spark解壓安裝 上傳spark安裝包 cd home spark soft spark安裝包存在路徑 tar zxvf spark 2.1.2 bin hadoop2.7.tgz 解壓 ln s spark 2.1.2 bin hadoop2.7 spark 方便起見可以建立...

xshell安裝資料庫步驟

第一步 在linux下解壓檔案 第二步 安裝之前先執行 解除安裝掉centos7自帶的mariadb lib 1 查詢mariadb資訊 rpm qa grep mariadb 2 使用rpe e命令解除安裝 rpm e mariadb libs 5.5.64 1.el7.x86 64 nodeps...