hadoop執行及基本命令

2021-08-15 10:05:40 字數 3502 閱讀 1875

1格式化namenode(是對namenode進行初始化)

hdfs namenode -format (hadoop namenode -format)

2啟動hadoop(需要配置免密登入)

先啟動hdfs

sbin/start-dfs.sh

再啟動yarn

sbin/start-yarn.sh

3驗證是否啟動成功 jps

4基本命令

-help             

功能:輸出這個命令引數手冊

-ls

功能:顯示目錄資訊

示例:

hadoop fs -ls hdfs://hadoop-server01:9000/

備註:這些引數中,所有的hdfs

路徑都可以簡寫

-->

hadoop fs -ls /   等同於上一條命令的效果

-mkdir

功能:在hdfs

上建立目錄

示例:hadoop fs  -mkdir  -p  /aaa/bbb/cc/dd

-movefromlocal

功能:從本地剪下貼上到hdfs

示例:hadoop  fs  - movefromlocal  /home/hadoop/a.txt  /aaa/bbb/cc/dd

-movetolocal

功能:從hdfs

剪下貼上到本地

示例:hadoop  fs  - movetolocal   /aaa/bbb/cc/dd  /home/hadoop/a.txt

功能:追加乙個檔案到已經存在的檔案末尾

示例:可以簡寫為:

h-cat

功能:顯示檔案內容

示例:hadoop fs -cat  /hello.txt

-tail

功能:顯示乙個檔案的末尾

示例:hadoop  fs  -tail  /weblog/access_log.1

-text

功能:以字元形式列印乙個檔案的內容

示例:hadoop  fs  -text  /weblog/access_log.1

-chgrp

-chmod

-chown

功能:linux

檔案系統中的用法一樣,對檔案所屬許可權

示例:hadoop  fs  -chmod  666  /hello.txt

hadoop

fs  -chown  someuser:somegrp   /hello.txt

-copyfromlocal

功能:從本地檔案系統中拷貝檔案到hdfs

路徑去

示例:hadoop  fs  -copyfromlocal  ./jdk.tar.gz  /aaa/

-copytolocal

功能:從hdfs

拷貝到本地

示例:hadoop fs -copytolocal /aaa/jdk.tar.gz

-cp

功能:從hdfs

的乙個路徑拷貝

hdfs

的另乙個路徑

示例:

hadoop

fs-cp  /aaa/jdk.tar.gz  /bbb/jdk.tar.gz.2

-mv

功能:在hdfs

目錄中移動檔案

示例:

hadoopfs-

mv/aaa/jdk.tar.gz  /

-get

功能:等同於copytolocal

,就是從

hdfs

示例:hadoop fs -get  /aaa/jdk.tar.gz

-getmerge

示例:比如hdfs

的目錄/aaa/

下有多個檔案

:log.1, log.2,log.3,...

hadoop fs -getmerge /aaa/log.* ./log.sum

-put

功能:等同於copyfromlocal

示例:hadoopfs-

put/aaa/jdk.tar.gz  /bbb/jdk.tar.gz.2

-rm

功能:刪除檔案或資料夾

示例:hadoop fs -rm -r /aaa/bbb/

-rmdir

功能:刪除空目錄

示例:hadoop  fs  -rmdir   /aaa/bbb/ccc

-df

功能:統計檔案系統的可用空間資訊

示例:h

adoop

fs-df-h/

-du

功能:統計資料夾的大小資訊

示例:hadoop  fs  -du  -s  -h /aaa/*

-count

功能:統計乙個指定目錄下的檔案節點數量

示例:hadoop fs -count /aaa/

-setrep

功能:設定hdfs

中檔案的副本數量

示例:hadoop fs -setrep 3 /aaa/jdk.tar.gz

《這裡設定的副本數只是記錄在

namenode

的元資料中,是否真的會有這麼多副本,還得看

datanode

的數量》

hadoop dfsadmin -report

檢視dfs狀態

hadoop基本命令

在這篇文章中,我們預設認為hadoop環境已經由運維人員配置好直接可以使用。假設hadoop的安裝目錄hadoop home為 home admin hadoop。1.進入hadoop home目錄。2.執行sh bin start all.sh 1.進入hadoop home目錄。2.執行sh b...

hadoop基本命令

在這篇文章中,我們預設認為hadoop環境已經由運維人員配置好直接可以使用。假設hadoop的安裝目錄hadoop home為 home admin hadoop。1.進入hadoop home目錄。2.執行sh bin start all.sh 1.進入hadoop home目錄。2.執行sh b...

Hadoop基本命令

1,hadoop fs fs local 宣告hadoop使用的檔案系統,如果不宣告的話,使用當前配置檔案配置的,按如下順序查詢 hadoop jar裡的hadoop default.xml had oopc onfd ir下的 hado op d efau lt.x ml hadoop conf ...