關於HDFS與本地檔案的一些總結

2021-07-10 14:27:24 字數 1027 閱讀 8600

關於hadoop中hdfs與本地檔案系統的一些操作

filesystem是hdfs檔案系統,localfilesystem是本地檔案系統

localfilesystem local = filesystem.getlocal(conf);

對filesystem進行讀寫操作  檔案在本地有hdfs檔案系統之間進行copy

注意:在windows上使用fileoutputstream建立檔案,fileinputstream讀取,

而在hdfs中,用filesystem.create(path)進行建立,用filesystem.open(path)讀取檔案

//將hdfs的檔案合併後copy到本地檔案系統

private static void copyfiles2local() throws ioexception,

urisyntaxexception, filenotfoundexception

out.close();

}//將hdfs上的檔案copy到本地檔案中(單個檔案)

private static void copyhfile2local(string args) throws ioexception,

filenotfoundexception 

//將本地檔案讀取到hdfs上

private static void local2hdfs() throws ioexception, 

filenotfoundexception 

});ioutils.copybytes(in, out, 4096, false);

ioutils.closestream(out);

ioutils.closestream(in);

}//讀取hdfs 上的檔案內容

private static void write4hdfsfile() throws ioexception,

urisyntaxexception, exception 

catch(exception e)finally

}

關於Spring Data Rest的一些總結

最近一直在開發一些基於 spring data rest 的專案。在此過程中,隨著開發工作的不斷深入,對 spring data rest 的了解也越來越深。享受著 spring data rest 帶來的便捷,也忍受著它帶來的不便。spring data rest 的目標是提供堅實的基礎,從而使用...

dp基礎 關於LIS LCS LCIS 的一些總結

lis 最長遞增子串行 dp思路 dp i 為0到第i項的最長遞增子串行長度。dp i max dp j 1 a j a i dp 0 a 0 for int i 1 i n i 二分優化 if a i dp tot1 else 注意 dp i 儲存的是長度為i時最長遞增子串行的最小結尾。陣列整個儲...

linux shell script 的一些總結

獲得本機inet ip sbin ifconfig eth0 grep inet addr sed s addr g sed s bcast.g 刪除空白行 cat etc man.config grep man sed s g sed d egrep與grep egrep grep e egrep...