Hadoop 常用操作

2021-08-20 21:41:32 字數 1553 閱讀 3344

使用url的方式讀取乙個檔案內容,需要設定乙個handler工廠,這個工廠只能設定一次 

static   

public

void test1() throws ioexception   

br.close();  

}  使用hadoop的filesystem讀取檔案 

public

void test2() throws ioexception   

將乙個本地檔案拷貝到hadoop檔案系統中 

public

void test3() throws ioexception   

});  

ioutils.copybytes(is, os, 4096, true);  

system.out.println("ok~");  

}  列出檔案屬性 

public

void test4() throws ioexception   

通過路徑過濾器查詢檔案 

public

void test5() throws ioexception   

system.out.println("filter execute ok");  

}  //路徑正則過濾器類

public

class regexpathfilter implements pathfilter   

@override

public

boolean accept(path path)   

}  刪除,支援遞迴刪除 

public

void delete() throws ioexception   

重新命名 

public

void test5_rename() throws ioexception   

檢查檔案是否存在 

public

void exist() throws ioexception   

查詢某個檔案在hdfs中的位置 

public

void test5_location() throws ioexception   

}  獲取hdfs集群上所有節點的名稱 

public

void test5_allnode() throws ioexception   

建立本地和遠端的checksum 

public

void localcreatechecksum() throws ioexception   

public

void distributecreatechecksum() throws ioexception   

壓縮和解壓縮,壓縮池 

public

void compress() throws ioexception   

public

void decompress() throws ioexception   

public

void comprsspool() throws ioexception   

hadoop常用操作命令

1 檢視指定目錄下內容 hadoop dfs ls 檔案目錄 eg hadoop dfs ls user wangkai.pt 2 開啟某個已存在檔案 hadoop dfs cat file path eg hadoop dfs cat user wangkai.pt data.txt 3 將本地檔...

hadoop常用操作命令

1.列出根目錄下所有的目錄或檔案 hadoop dfs ls 2.列出 user目錄下的所有目錄和檔案 hadoop dfs ls user 3.列出 user目錄及其子目錄下的所有檔案 謹慎使用 hadoop dfs ls r user 4.建立 soft目錄 hadoop dfs mkdir s...

Hadoop的shell常用操作

1.啟動 關閉hadoop集群 2.檢視hdfs上的檔案和目錄 hadoop fs ls r 3.在hdfs上建立資料夾 hadoop fs mkdir p test name4.上傳檔案 hadoop fs put source 本地檔案路徑 dest hdfs路徑 hadoop fs get s...