關於hadoop中hdfs與本地檔案系統的一些操作
filesystem是hdfs檔案系統,localfilesystem是本地檔案系統
localfilesystem local = filesystem.getlocal(conf);
對filesystem進行讀寫操作 檔案在本地有hdfs檔案系統之間進行copy
注意:在windows上使用fileoutputstream建立檔案,fileinputstream讀取,
而在hdfs中,用filesystem.create(path)進行建立,用filesystem.open(path)讀取檔案
//將hdfs的檔案合併後copy到本地檔案系統
private static void copyfiles2local() throws ioexception,
urisyntaxexception, filenotfoundexception
out.close();
}//將hdfs上的檔案copy到本地檔案中(單個檔案)
private static void copyhfile2local(string args) throws ioexception,
filenotfoundexception
//將本地檔案讀取到hdfs上
private static void local2hdfs() throws ioexception,
filenotfoundexception
});ioutils.copybytes(in, out, 4096, false);
ioutils.closestream(out);
ioutils.closestream(in);
}//讀取hdfs 上的檔案內容
private static void write4hdfsfile() throws ioexception,
urisyntaxexception, exception
catch(exception e)finally
}
關於Spring Data Rest的一些總結
最近一直在開發一些基於 spring data rest 的專案。在此過程中,隨著開發工作的不斷深入,對 spring data rest 的了解也越來越深。享受著 spring data rest 帶來的便捷,也忍受著它帶來的不便。spring data rest 的目標是提供堅實的基礎,從而使用...
dp基礎 關於LIS LCS LCIS 的一些總結
lis 最長遞增子串行 dp思路 dp i 為0到第i項的最長遞增子串行長度。dp i max dp j 1 a j a i dp 0 a 0 for int i 1 i n i 二分優化 if a i dp tot1 else 注意 dp i 儲存的是長度為i時最長遞增子串行的最小結尾。陣列整個儲...
linux shell script 的一些總結
獲得本機inet ip sbin ifconfig eth0 grep inet addr sed s addr g sed s bcast.g 刪除空白行 cat etc man.config grep man sed s g sed d egrep與grep egrep grep e egrep...