1.作業系統版本:centos 6
cm版本:cm5.x
cdh版本:cdh5.x
2.安裝作業系統,對系統盤做 raid1;
配置靜態ip、hostname資訊:vim /etc/sysconfig/network-scripts/ifcfg-eth0
並配置所有節點的靜態dns解析: vim /etc/hosts
若啟用集群的kerberos認證功能,則一定要配置集群的dns網域名稱,可以是假網域名稱:vim /etc/sysconfig/network, /etc/hosts處主機名也要加帶網域名稱的主機名,如: 192.168.0.3 sb-node1.example.com sb-node1
如果機器配置有雙網絡卡,可以做雙網絡卡繫結
關閉並禁用iptables:
service iptables stop
chkconfig iptables off
關閉selinux
echo "selinux=disabled" > /etc/sysconfig/selinux
重啟網路服務 /etc/init.d/network restart
啟用nscd(dns快取)
yum install -y nscd
service nscd start
chkconfig nscd on
修改transparent_hugepage引數,這個引數預設值可能會導致cdh效能下降
#在/etc/rc.local中增加一行 echo never > /sys/kernel/mm/redhat_transparent_hugepage/defrag
若kernel版本在.6.32-303之前的版本,關閉記憶體頁面交換,因為某些情況下會導致cdh效能下降
在要作為repo庫的節點上安裝畢業軟體,含http服務和repo建立工具
磁碟劃分....
角色劃分.....
**詳細見cdh集群的企業部署
hadoop集群管理系統搭建規劃說明
hadoop集群管理系統搭建規劃說明 hadoop分布式集群環境搭建是每個入門級新手都非常頭疼的事情,因為你可能花費了很久的時間在搭建執行環境,最終卻不知道什麼原因無法建立成功。但對新手來說,執行環境搭建不成功的概率還蠻高的。在之前的分享文章中給hadoop新手入門推薦的大快搜尋dkhadoop發行...
Hadoop集群搭建
hadoop集群具體來說包含兩個集群 hdfs集群和yarn集群,兩者邏輯上分離,但物理上常在一起。hdfs集群 負責海量資料的儲存,集群中的角色主要有 namenode datanode yarn集群 負責海量資料運算時的資源排程,集群中的角色主要有 resourcemanager nodeman...
hadoop集群搭建
hadoop執行環境搭建 1.修改主機名 2.關閉防火牆 3.建立hadoop使用者 4.配置hadoop使用者具有root許可權 5.在 opt目錄下建立資料夾 1 在 opt目錄下建立module soft資料夾 sudo mkdir module sudo mkdir soft 2 修改mod...