單機版hadoop部署
解除安裝自帶的jdk,安裝自己的jdk
1.tar -zxf /tmp/hadoop-2.6.5.tar.gz -c /usr/local # 解壓到/usr/local中
2.cd /usr/local/
3.mv ./hadoop-2.6.0/ ./hadoop # 將資料夾名改為hadoop
4.chown -r hadoop ./hadoop # 修改檔案許可權 授權給hadoop使用者
5.hadoop 解壓後就能使用了。輸入如下命令來檢查 hadoop 是否可用,成功則會顯示 hadoop 版本資訊:
cd /usr/local/hadoop
./bin/hadoop version
6.測試使用mapreduce
在hadoop目錄中
切換到 cd /usr/local/hadoop/share/hadoop/mapreduce
統計找乙個文字檔案,統計資訊
./hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep /usr/local/hadoop/input /usr/local/hadoop/output 'dfs[a-z.]+'
---使用hadoop的例子hadoop-examples-2.6.5.jar裡邊的程式grep來執行查詢dfs開頭後面是包含從a到z的字串的單詞
---------檢視執行結果(兩種方式都可以)
cd /usr/local/hadoop
cat ./output/* # 檢視執行結果
統計結果
./hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar wordcount /usr/local/hadoop/input /usr/local/hadoop/output333
cat output/*
出現結果
單機模式
(不需要做任何配置,但不啟動任何dfs和mapreduce daemon程序)
-----------講解hadoop的常用配置檔案core-site.xml,hdfs-site.xml,mapred-site.xml
獲取預設配置
配置hadoop,主要是配置core-site.xml,hdfs-site.xml,mapred-site.xml三個配置檔案,預設下來,
這些配置檔案都是空的,所以很難知道這些配置檔案有哪些配置可以生效,上網找的配置可能因為各個hadoop版本不同,
導致無法生效。瀏覽更多的配置,有兩個方法:
這些就是預設配置,可以參考這些配置的說明和key,配置hadoop集群。
2.瀏覽apache官網,三個配置檔案鏈結如下:
這裡是瀏覽hadoop當前版本號的預設配置檔案,其他版本號,要另外去官網找。其中第乙個方法找到預設的配置是最好的,
因為每個屬性都有說明,可以直接使用。另外,core-site.xml是全域性配置,hdfs-site.xml和mapred-site.xml分別是hdfs和mapred的區域性配置。
hadoop 單機版部署
mac hadoop 單機版部署 確定以安裝 brew 使用brew 安裝 hadoop brew install hadoop配置ssh localhost 設定免密登入 localhost ssh keygen t rsa cat ssh id rsa.pub ssh authorized ke...
storm單機版部署
zeromq jzmq storm zookeeper 解壓zookeeper,然後修改conf檔案中的zoo.cfg ticktime 2000 datadir var zookeeper clientport 2181 由於是單機版的,就只新增了這幾個引數,其中目錄需要自己先建立 啟動zooke...
Ubuntu安裝單機版hadoop注意事項
網上ubuntu安裝單機版的案例教程很多,本人參考 進行安裝。在建立hadoop使用者以及更改許可權時,在系統設定的介面可以把hadoop設定為管理員,從而具有root 的許可權。比如可以進入root目錄等。1.建立ssh 使用 sudo apt get install sshopenssh ser...