在cdh集群中使用命令列 hdfs balancer -threshold 5 開啟動態平衡輸出日誌,我們通常想知道這次動態平衡的資料量及進度資訊,日誌中包含了這些資訊。日誌資訊如下:
19/04/21 07:23:57 info balancer.balancer: need to move 150.29 tb to make the cluster balanced.
apr 21, 2019 7:25:28 am 430 25.36 tb 150.29 tb 60 gb
日誌資訊介紹:
need to move 150.29 tb to make the cluster balanced
這行表示整個集群還需要進行平衡的資料總量
apr 21, 2019 7:25:28 am 430 25.36 tb 150.29 tb 60 gb
apr 21, 2019 7:25:28 am 日誌輸出時間
430 表示此次平衡已經執行的次數
25.36tb 表示已經平衡的資料量
150.29 tb 表示剩餘需要平衡的資料量
60 gb 表示每批次平衡的資料量大小。上面的430次,就是此次執行balance後 60gb/次 累計的。
hdfs balancer均衡器使用
簡介 hadoop的hdfs集群非常容易出現機器與機器之間磁碟利用率不平衡的情況,比如集群中添 加新的資料節點。當hdfs出現不平衡狀況的時候,將引發很多問題,比如mr程式無法很好 地利用本地計算的優勢,機器之間無法達到更好的網路頻寬使用率,機器磁碟無法利用等 等。可見,保證hdfs中的資料平衡是非...
Linux日誌分析命令之cut命令使用介紹
cut檔案內容檢視 顯示行中的指定部分,刪除檔案中指定字段 該命令有兩項功能,其一是用來顯示檔案的內容,它依次讀取由引數file所指明的檔案,將它們的內容輸出到標準輸出上 其二是連線兩個或多個檔案,如cut fl f2 f3將把檔案fl和幾的內容合併起來,然後通過輸出重定向符 的作用,將它們放入檔案...
MySQL日誌 使用二進位制日誌恢復資料介紹
因為二進位制日誌記錄了完整的對資料的更改操作,是與資料完全同步一致的,因此可以使用二進位制日誌對資料進行恢復操作。恢復的方式比較簡單,就是將二進位制日誌的內容傳遞給mysql,作為mysql的資料匯入資料庫。恢復步驟 1 使用mysqlbinlog讀取二進位制日誌檔案,將其重定向輸出到乙個檔案中 m...