第三章 熟悉常用的HDFS操作

2022-06-05 02:03:07 字數 2495 閱讀 8590

一、hadoop提供的shell命令完成相同任務:

在本地linux檔案系統的「/home/hadoop/」目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.

在本地檢視檔案位置(ls)

在本地顯示檔案內容

使用命令把本地檔案系統中的「txt」上傳到hdfs中的當前使用者目錄的input目錄下。

檢視hdfs中的檔案(-ls)

顯示hdfs中該的檔案內容

刪除本地的txt檔案並檢視目錄

從hdfs中刪除txt並檢視目錄

mkdir hadoop

cd hadoop

touch wxc.txt

gedit wxc.txt

ls -al

gedit wxc.txt

cd /usr/local/hadoop

#開啟hdfs

./bin/hdfs dfs -mkdir /input

./bin/hdfs dfs -put ~/hadoop/wxc.txt /input

./bin/hdfs dfs -ls /input

./bin/hdfs dfs -cat /input/wxc.txt

cd ~/hadoop

rm -r wxc.txt

ls -al

#

開啟hdfs

./bin/hdfs dfs -mkdir /input

./bin/hdfs dfs -get /input/wxc.txt ~/hadoop

./bin/hdfs dfs -rm -r /input/wxc.txt

./bin/hdfs dfs -ls

二、1、向hdfs中上傳任意文字檔案,如果指定的檔案在hdfs中已經存在,由使用者指定是追加到原有檔案末尾還是覆蓋原有的檔案;

hadoop fs -put /home/hadoop/wxc.txt /usr/local/hadoop

hadoop fs -test -e /usr/local/hadoop/wxc.txt

if $(hadoop fs -test -e /home/hadoop/wxc.txt); 

then $(hadoop fs -copytolocal /usr/local/hadoop/wxc.txt /home/hadoop/wxc.txt);

else $(hadoop fs -copytolocal /usr/local/hadoop/wxc.txt /home/hadoop/wxc2.txt); fi

3、將hdfs中指定檔案的內容輸出到終端中;

hadoop dfs -cat /usr/local/hadoop/wxc.txt

4、顯示hdfs中指定的檔案的讀寫許可權、大小、建立時間、路徑等資訊;

hadoop dfs -ls -h /usr/local/hadoop/wxc.txt

5、給定hdfs中某乙個目錄,輸出該目錄下的所有檔案的讀寫許可權、大小、建立時間、路徑等資訊,如果該檔案是目錄,則遞迴輸出該目錄下所有檔案相關資訊;

hadoop dfs -ls -r -h /usr/local/hadoop

6、提供乙個hdfs內的檔案的路徑,對該檔案進行建立和刪除操作。如果檔案所在目錄不存在,則自動建立目錄;

if $(hadoop dfs -test -d /usr/local/hadoop/wxc); then $(hadoop dfs -touch /usr/local/hadoop/wxc/wxc1.txt); else $(hadoop dfs -mkdir -p /usr/local/hadoop/wxc && hadoop dfs -touch /usr/local/hadoop/wxc/wxc1.txt); fi

7、提供乙個hdfs的目錄的路徑,對該目錄進行建立和刪除操作。建立目錄時,如果目錄檔案所在目錄不存在則自動建立相應目錄;刪除目錄時,由使用者指定當該目錄不為空時是否還刪除該目錄;

hadoop dfs -rm -r /usr/local/hadoop/wxc

8、向hdfs中指定的檔案追加內容,由使用者指定內容追加到原有檔案的開頭或結尾;

9、刪除hdfs中指定的檔案;

hadoop dfs -rm /usr/local/hadoop/wxc.txt

10、刪除hdfs中指定的目錄,由使用者指定目錄中如果存在檔案時是否刪除目錄;

hadoop dfs -rmr /usr/local/hadoop

11、在hdfs中,將檔案從源路徑移動到目的路徑。

hadoop fs -mv /usr/local/hadoop/wxc.txt /usr/local/hadoop/hadoop_tmp/wxc.txt

第三章 熟悉常用HDFS操作

1.在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.2.在本地檢視檔案位置 ls 3.在本地顯示檔案內容 cd usr local hadoop touch test1.txt cat test1.txt 4.使用命令把本地檔案系統中的 txt...

第三章 熟悉常用的HDFS操作

一 hadoop提供的shell命令完成相同任務 在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.在本地檢視檔案位置 ls 在本地顯示檔案內容 使用命令把本地檔案系統中的 txt 上傳到hdfs中的當前使用者目錄的input目錄下。檢視hdfs...

第三章 熟悉常用的HDFS操作

程式設計實現以下指定功能,並利用hadoop提供的shell命令完成相同任務 在本地linux檔案系統的 home hadoop 目錄下建立乙個檔案txt,裡面可以隨意輸入一些單詞.在本地檢視檔案位置 ls 在本地顯示檔案內容 使用命令把本地檔案系統中的 txt 上傳到hdfs中的當前使用者目錄的i...