hadoopHDFS操作用法

2022-07-29 07:09:10 字數 1090 閱讀 6700

hdfs操作

1 格式化hadoop

啟動之前,我們先要格式化namenode,先進入/home/hdfs/hdfsinstall/hadoop目錄,執行下面的命令

bin/hadoop namenode -format

如果不成功,就去hadoop_log_dir目錄下去檢視日誌檔案。

2 啟動hadoop

在bin/下面有很多啟動指令碼,可以根據自己的需要來啟動。

* start-all.sh 啟動所有的hadoop守護。包括namenode, datanode, jobtracker, tasktrack

* stop-all.sh 停止所有的hadoop

* start-mapred.sh 啟動map/reduce守護。包括jobtracker和tasktrack

* stop-mapred.sh 停止map/reduce守護

* start-dfs.sh 啟動hadoop dfs守護.namenode和datanode

* stop-dfs.sh 停止dfs守護

在這裡,簡單啟動dfs:bin/start-dfs.sh

3 停止hadoop

bin/stop-dfs.sh

或者bin/stop-all.sh

4 建立/刪除目錄

bin/hadoop dfs -mkdir testdir

bin/hadoop dfs -rmr testdir

在hdfs中建立乙個名為testdir的目錄

5 複製檔案

bin/hadoop dfs -put /home/hdfs/hdfsinstall/hadoop/hadoop-0.18.1-tools.jar testdir/ hadoop-0.18.1-tools.jar

把本地檔案large.zip拷貝到hdfs的根目錄下,檔名為testfile.zip

6 檢視現有檔案

bin/hadoop dfs -ls

bin/hadoop dfs -ls testdir

7 檢視當前檔案系統狀態

bin/hadoop dfsadmin -report

Hadoop HDFS操作命令

1 檢視hadoop hdfs支援的所有命令hadoop fs2 列出目錄及檔案資訊hadoop fs ls3 迴圈列出目錄 子目錄及檔案資訊hadoop fs lsr4 將本地檔案系統的test.txt複製到hdfs檔案系統的 user sunlightcs目錄下hadoop fs put tes...

hadoop,HDFS常用Shell操作

1 列出檔案目錄 hadoop fs ls 目錄路徑 檢視hdfs根目錄下的目錄 hadoop fs ls 遞迴檢視hdfs根目錄下的目錄 hadoop fs lsr 2 在hdfs中建立資料夾 hadoop fs mkdir 資料夾名稱 在根目錄下建立乙個名稱為di的資料夾 3 上傳檔案到hdfs...

hadoop hdfs檔案操作命令

建立hdfs資料夾 建立資料夾ethan hadoop fs mkdir user recsys ethan授權hdfs檔案 改變檔案許可權 hadoop fs chmod a r user recsys ethan test.txt檢視hdfs檔案 資料夾 檢視資料夾ethan下的所有檔案目錄 h...