centos7搭建hadoop高可用 ha 集群

2021-08-28 05:46:26 字數 2413 閱讀 8420

hadoop高可用(ha)集群實現目標:

s101和s105設定為名稱節點,可以互相切換為active狀態;

s102~104設定為資料節點和journalnode節點。

準備工作:

centos7搭建hadoop分布式集群,參考文章:

注:hadoop高可用(ha)集群的搭建是從hadoop分布式集群的基礎上進行修改而來!

1.建立hadoop ha版本

1)進入ha建立目錄

cd /soft/hadoop/etc

2)複製出ha目錄

cp -r full ha   //在hadoop分布式集群的基礎上進行修改

2.ha hadoop檔案配置

1)進入ha hadoop配置檔案目錄

cd /soft/hadoop/etc/ha

2)hdfs-site.xml檔案配置

3).core-site.xml檔案配置

fs.defaultfs

hdfs://mycluster

3.分發ha檔案並建立符號鏈結

1)進入ha檔案所在目錄

cd /soft/hadoop/etc

2)分發ha檔案到所有節點

xsync.sh ha

3)所有節點建立ha的符號鏈結hadoop

xcall.sh ln -sft /soft/hadoop/etc/ha /soft/hadoop/etc/hadoop

4.啟動hadoop ha高可用集群

1) s102~s104分別啟動journalnode節點

hadoop-daemon.sh start journalnode

2)複製s101的metadata到s105

scp -r /home/centos/hadoop/dfs centos@s105:/home/centos/hadoop/

3)啟動s101的名稱節點

hadoop-daemon.sh start namenode

4)s105節點執行名稱節點standby狀態引導

hdfs namenode -bootstrapstandby        //提示是否格式化,選擇n.

5)s105節點執行edit日誌到journalnode節點的傳輸

hdfs namenode -initializesharededits

6)s105啟動名稱節點

hadoop-daemon.sh start namenode

7)s101啟動所有資料節點

hadoop-daemons.sh start datanode

8)檢視所有程序

5.名稱節點s101(active)和s105(standby)的狀態進行互換

hdfs haadmin -failover nn1 nn2   //名稱節點s105切換為active狀態

注:下次重啟電腦,s101和s105預設都為standby狀態,啟用s101為active狀態:hdfs haadmin -transitiontoactive nn1

centos7上搭建hadoop(基礎篇)

主要步驟如下 1.修改ip 因為動態ip很麻煩 2.關閉防火牆 因為hadoop集群通常是公司內部使用,埠加入列表就不攔截了 3.修改hostname 4.設定ssh自動登入 5.安裝jdk 6.安裝hadoop 步驟1 修改ip 原內容作出變動後的結果如下 type ethernet bootpr...

centos7搭建hadoop集群之xcall指令碼

在一些特定場景下,需要所有節點同時執行相同的命令,比如主機hadoop1執行ls命令,其他節點主機也同時執行ls命令,實現這種效果快捷方式一般有兩種 用法 bin bash pcount if pcount 0 then echo no args exit fiecho localhost for ...

Centos7搭建LAMP Typecho部落格

yum install httpd 安裝httpd服務 systemctl start httpd 啟動httpd服務 systemctl status httpd 檢視httpd服務狀態,看到active active running 說明httpd服務已啟動 systemctl enable h...