hadoop集群的規劃和搭建

2021-09-24 16:48:15 字數 1101 閱讀 9445

1.作業系統版本:centos 6

cm版本:cm5.x

cdh版本:cdh5.x

2.安裝作業系統,對系統盤做 raid1;

配置靜態ip、hostname資訊:vim /etc/sysconfig/network-scripts/ifcfg-eth0

並配置所有節點的靜態dns解析: vim /etc/hosts

若啟用集群的kerberos認證功能,則一定要配置集群的dns網域名稱,可以是假網域名稱:vim /etc/sysconfig/network,  /etc/hosts處主機名也要加帶網域名稱的主機名,如:     192.168.0.3  sb-node1.example.com    sb-node1

如果機器配置有雙網絡卡,可以做雙網絡卡繫結

關閉並禁用iptables:

service iptables stop

chkconfig iptables off 

關閉selinux       

echo "selinux=disabled" > /etc/sysconfig/selinux

重啟網路服務  /etc/init.d/network restart

啟用nscd(dns快取)

yum install -y nscd

service nscd start

chkconfig nscd on

修改transparent_hugepage引數,這個引數預設值可能會導致cdh效能下降

#在/etc/rc.local中增加一行     echo never > /sys/kernel/mm/redhat_transparent_hugepage/defrag

若kernel版本在.6.32-303之前的版本,關閉記憶體頁面交換,因為某些情況下會導致cdh效能下降

在要作為repo庫的節點上安裝畢業軟體,含http服務和repo建立工具

磁碟劃分....

角色劃分.....

**詳細見cdh集群的企業部署

hadoop集群管理系統搭建規劃說明

hadoop集群管理系統搭建規劃說明 hadoop分布式集群環境搭建是每個入門級新手都非常頭疼的事情,因為你可能花費了很久的時間在搭建執行環境,最終卻不知道什麼原因無法建立成功。但對新手來說,執行環境搭建不成功的概率還蠻高的。在之前的分享文章中給hadoop新手入門推薦的大快搜尋dkhadoop發行...

Hadoop集群搭建

hadoop集群具體來說包含兩個集群 hdfs集群和yarn集群,兩者邏輯上分離,但物理上常在一起。hdfs集群 負責海量資料的儲存,集群中的角色主要有 namenode datanode yarn集群 負責海量資料運算時的資源排程,集群中的角色主要有 resourcemanager nodeman...

hadoop集群搭建

hadoop執行環境搭建 1.修改主機名 2.關閉防火牆 3.建立hadoop使用者 4.配置hadoop使用者具有root許可權 5.在 opt目錄下建立資料夾 1 在 opt目錄下建立module soft資料夾 sudo mkdir module sudo mkdir soft 2 修改mod...