DataNode的多硬碟儲存

2021-09-29 13:11:49 字數 627 閱讀 2030

修改hadoop安裝目錄下/etc/hadoop/hdfs-site.xml檔案,新增如下配置資訊:

dfs.datanode.

data

.dir

/mnt/disk1/hadoop/hdfs/

data

,/mnt/disk2/hadoop/hdfs/

data

,/mnt/disk3/hadoop/hdfs/

data

,/mnt/disk4/hadoop/hdfs/

data

,/mnt/disk5/hadoop/hdfs/

data

,/mnt/disk6/hadoop/hdfs/

data

,/mnt/disk7/hadoop/hdfs/

data

,/mnt/disk8/hadoop/hdfs/

data

,/mnt/disk9/hadoop/hdfs/

data

,/mnt/disk10/hadoop/hdfs/

data

,/mnt/disk11/hadoop/hdfs/

data

NameNode與DataNode的多目錄配置

namenode的本地目錄可以配置成多個,且每個目錄存放內容相同,增加了可靠性 1.在hdfs site.xml檔案中增加如下內容 dfs.namenode.name.dirname file dfs name1,file dfs name2value property 2.停止集群,刪除data和...

儲存硬碟感悟

1.怎樣的硬碟算是損壞?我們目前所知的硬碟故障有 馬達不轉 不能識別 或者是0柱面0磁軌1扇區損壞 磁碟出現壞道等 2.如何預知硬碟會損壞?這是乙個很大的課題,雖然有smart attribute可以供我們參考,但是,還是經常會碰到一些硬碟無聲無息就突然壞了 嗯,這是一件非常非常鬱悶的事。3.硬碟壞...

DataNode的工作機制

資料完整性 1 當datanode讀取block的時候,它會計算checksum 2 如果計算後的checksum,與block建立時值不一樣,說明block已經損壞 3 client讀取其他datanode上的block 4 datanode在其檔案建立後週期驗證checksum 掉線時限引數設定...