hadoop高可用(ha)集群實現目標:
s101和s105設定為名稱節點,可以互相切換為active狀態;
s102~104設定為資料節點和journalnode節點。
準備工作:
centos7搭建hadoop分布式集群,參考文章:
注:hadoop高可用(ha)集群的搭建是從hadoop分布式集群的基礎上進行修改而來!
1.建立hadoop ha版本
1)進入ha建立目錄
cd /soft/hadoop/etc
2)複製出ha目錄
cp -r full ha //在hadoop分布式集群的基礎上進行修改
2.ha hadoop檔案配置
1)進入ha hadoop配置檔案目錄
cd /soft/hadoop/etc/ha
2)hdfs-site.xml檔案配置
3).core-site.xml檔案配置
fs.defaultfs
hdfs://mycluster
3.分發ha檔案並建立符號鏈結
1)進入ha檔案所在目錄
cd /soft/hadoop/etc
2)分發ha檔案到所有節點
xsync.sh ha
3)所有節點建立ha的符號鏈結hadoop
xcall.sh ln -sft /soft/hadoop/etc/ha /soft/hadoop/etc/hadoop
4.啟動hadoop ha高可用集群
1) s102~s104分別啟動journalnode節點
hadoop-daemon.sh start journalnode
2)複製s101的metadata到s105
scp -r /home/centos/hadoop/dfs centos@s105:/home/centos/hadoop/
3)啟動s101的名稱節點
hadoop-daemon.sh start namenode
4)s105節點執行名稱節點standby狀態引導
hdfs namenode -bootstrapstandby //提示是否格式化,選擇n.
5)s105節點執行edit日誌到journalnode節點的傳輸
hdfs namenode -initializesharededits
6)s105啟動名稱節點
hadoop-daemon.sh start namenode
7)s101啟動所有資料節點
hadoop-daemons.sh start datanode
8)檢視所有程序
5.名稱節點s101(active)和s105(standby)的狀態進行互換
hdfs haadmin -failover nn1 nn2 //名稱節點s105切換為active狀態
注:下次重啟電腦,s101和s105預設都為standby狀態,啟用s101為active狀態:hdfs haadmin -transitiontoactive nn1
centos7上搭建hadoop(基礎篇)
主要步驟如下 1.修改ip 因為動態ip很麻煩 2.關閉防火牆 因為hadoop集群通常是公司內部使用,埠加入列表就不攔截了 3.修改hostname 4.設定ssh自動登入 5.安裝jdk 6.安裝hadoop 步驟1 修改ip 原內容作出變動後的結果如下 type ethernet bootpr...
centos7搭建hadoop集群之xcall指令碼
在一些特定場景下,需要所有節點同時執行相同的命令,比如主機hadoop1執行ls命令,其他節點主機也同時執行ls命令,實現這種效果快捷方式一般有兩種 用法 bin bash pcount if pcount 0 then echo no args exit fiecho localhost for ...
Centos7搭建LAMP Typecho部落格
yum install httpd 安裝httpd服務 systemctl start httpd 啟動httpd服務 systemctl status httpd 檢視httpd服務狀態,看到active active running 說明httpd服務已啟動 systemctl enable h...