剛開始學習hadoop,所以邊學邊做筆記。
本機系統win7(由於要裝三個虛擬機器,記憶體最少需要8g以上:每個虛擬機器2g,留給本機2g)
使用的軟體vmware workstation 11
linux系統 centos 6.5(據說centos 6.*和centos 7.*會有些不同,以後再試試)
1.vmware 安裝
2.建立虛擬機器。
記憶體:2g
硬碟:20g
cpu:2個2核
網絡卡:nat
3.裝centos 系統
主機名:hadoop100
硬碟分割槽:
4.設定網路資訊
41.先檢視子網ip
4.2修改ip,命令vim /etc/sysconfig/network-scripts/ifcfg-eth0
4.3重啟網路,命令service network restart
4.4 關閉防火牆
4.5設定對映,修改hosts檔案vim /etc/hosts,新增內容
192.168.126.100 hadoop100
192.168.126.101 hadoop101
192.168.126.102 hadoop102
5.建立乙個使用者hds,並給root許可權。(之後操作如果不特別說明,所有命令都以此使用者執行。)
6.轉殖兩台虛擬機器(轉殖時必須關機狀態)。
6.1開機啟動轉殖出的一台虛擬機器,並用root登入
6.2修改主機名為hadoop101
6.3設定網絡卡資訊,命令vim /etc/udev/rules.d/70-persistent-net.rules
6.3.1刪除eth0資訊
6.3.2把eth1改為eth0,複製mac位址
6.4修改ip,命令vim /etc/sysconfig/network-scripts/ifcfg-eth0
6.4.1修改hwaddr為剛才複製的mac位址
6.4.2ip位址為192.168.126.101
6.5重啟
6.6 啟動另乙個虛擬機器,並設定,重啟。
7.hds使用者登入,分別設定三颱機器ssh免密碼登入功能
7.1生成公鑰和私鑰:命令ssh-keygen -t rsa
然後敲(三個回車),就會在~/ssh目錄下生成兩個檔案id_rsa(私鑰)、id_rsa.pub(公鑰)
7.2將公鑰拷貝到要免密登入的目標機器上(包括自己)
命令ssh-copy-id hadoop100
命令ssh-copy-id hadoop101
命令ssh-copy-id hadoop102
至此linux系統環境準備完畢。
Hadoop虛擬機器配置
使用centos7 hadoop集群內部防火牆內部時預設關閉的。服務關閉 systemctl stop firewalld.service 禁止開機firewall自啟動 systemctl disable firewalld.service 檢視狀態,確認關閉 not running firewa...
Hadoop 虛擬機器玩壞了
現在正在整體遷移環境,改用吳大佬的u64,主要的蛇皮操作為將lib的許可權改為777,我tm真的腦子有問題 嘗試拯救 在 etc sudoers中新增使用者 username all all all依舊報錯 在進行sudo操作時出現以下錯誤 sudo 在載入外掛程式 sudoers policy 時...
部署Hadoop及虛擬機器總結
在ssh工具上配置檔案時,配置 mapred site.xml 檔案時在 這個是錯誤的,因為感嘆號之後多了乙個空格 應該將感嘆號之後的空格去掉,改為 第二個問題檔案配置 以下是一部分檔案的配置內容。一 hdfs site.xml 3二 mapre site.xml mapreduce.framewo...