HDFS常見API操作

2021-10-05 02:42:28 字數 1513 閱讀 6697

乙個剛開始學習大資料的小白,願意和大家分享所學所得。

1、put:檔案上傳 對應hadoop fs -put(等同於hadoop fs -copyfromlocal)

//上傳檔案

@test

public

void

put(

)throws ioexception, interruptedexception

由上面所見,每次操作前都需要建立連線,為了簡化每次都需要建立連線,這裡我們採用@before註解將建立連線寫入,這樣再每次執行@test前都會先執行@before註解下的內容,同理,我們將釋放連線寫在@after中。

private filesystem fs;

@before

public

void

before()

throws ioexception, interruptedexception

@after

public

void

after()

throws ioexception

@test

public

void

get(

)throws ioexception

3、mkdirs:建立資料夾 對應hadoop fs -mkdir

//建立資料夾

@test

public

void

make()

throws ioexception

4、delete:刪除操作 對應hadoop fs -rm

//刪除hdfs上的檔案

@test

public

void

delete()

throws ioexception

5、rename操作 對應hadoop fs -mv

//更改檔名

@test

public

void

rename()

throws ioexception

6、listfile:檢視檔案詳情

//hdfs檔案詳情檢視

//檢視檔名稱、許可權、長度、塊資訊

@test

public

void

listfile()

throws ioexception }}

}

7、liststatus:判斷是否是檔案

//判斷是檔案還是資料夾

@test

public

void

liststatus()

throws ioexception

else

}}

謝謝**,若有問題懇請指出

HDFS的API操作 小檔案的合併

由於 hadoop 擅長儲存大檔案,因為大檔案的元資料資訊比較少,如果 hadoop 集群當中有大量的小檔案,那麼每個小檔案都需要維護乙份元資料資訊,會大大的增加集群管理元資料的記憶體壓力,所以在實際工作當中,如果有必要一定要將小檔案合併成大檔案進行一起處理 cd export servers hd...

JS常見的DOM操作API

目錄 幾種物件 node nodelist htmlcollection 節點查詢api 節點建立api createelement createtextnode clonenode createdocumentfragment 節點修改api insertbefore removechild re...

黑猴子的家 API 操作 HDFS 檔案上傳

1 code github 2 code test public void putfiletohdfs throws exception3 將core site.xml拷貝到專案的根目錄下 fs.defaultfs hdfs node1 9000 4 將hdfs site.xml拷貝到專案的根目錄下...