hdfs balancer日誌介紹

2021-09-19 09:41:25 字數 706 閱讀 6272

在cdh集群中使用命令列  hdfs balancer -threshold 5 開啟動態平衡輸出日誌,我們通常想知道這次動態平衡的資料量及進度資訊,日誌中包含了這些資訊。日誌資訊如下:

19/04/21 07:23:57 info balancer.balancer: need to move 150.29 tb to make the cluster balanced.

apr 21, 2019 7:25:28 am         430             25.36 tb           150.29 tb              60 gb

日誌資訊介紹:

need to move 150.29 tb to make the cluster balanced 

這行表示整個集群還需要進行平衡的資料總量

apr 21, 2019 7:25:28 am         430             25.36 tb           150.29 tb              60 gb 

apr 21, 2019 7:25:28 am    日誌輸出時間

430    表示此次平衡已經執行的次數

25.36tb  表示已經平衡的資料量

150.29 tb  表示剩餘需要平衡的資料量

60 gb      表示每批次平衡的資料量大小。上面的430次,就是此次執行balance後 60gb/次 累計的。

hdfs balancer均衡器使用

簡介 hadoop的hdfs集群非常容易出現機器與機器之間磁碟利用率不平衡的情況,比如集群中添 加新的資料節點。當hdfs出現不平衡狀況的時候,將引發很多問題,比如mr程式無法很好 地利用本地計算的優勢,機器之間無法達到更好的網路頻寬使用率,機器磁碟無法利用等 等。可見,保證hdfs中的資料平衡是非...

Linux日誌分析命令之cut命令使用介紹

cut檔案內容檢視 顯示行中的指定部分,刪除檔案中指定字段 該命令有兩項功能,其一是用來顯示檔案的內容,它依次讀取由引數file所指明的檔案,將它們的內容輸出到標準輸出上 其二是連線兩個或多個檔案,如cut fl f2 f3將把檔案fl和幾的內容合併起來,然後通過輸出重定向符 的作用,將它們放入檔案...

MySQL日誌 使用二進位制日誌恢復資料介紹

因為二進位制日誌記錄了完整的對資料的更改操作,是與資料完全同步一致的,因此可以使用二進位制日誌對資料進行恢復操作。恢復的方式比較簡單,就是將二進位制日誌的內容傳遞給mysql,作為mysql的資料匯入資料庫。恢復步驟 1 使用mysqlbinlog讀取二進位制日誌檔案,將其重定向輸出到乙個檔案中 m...