Hadoop常用埠配置

2021-06-20 06:28:57 字數 2670 閱讀 2145

core-site.xml是全域性配置,hdfs-site.xml和mapred-site.xml分別是hdfs和mapred的區域性配置。hdfs埠

引數描述

預設配置檔案

例子值fs.default.name

namenode rpc互動埠

namenode web管理埠

50070

hdfs-site.xml 

0.0.0.0:50070

dfs.datanode.address

datanode 控制埠

50010 

hdfs-site.xml 

0.0.0.0:50010

dfs.datanode.ipc.address

datanode的rpc伺服器位址和埠

datanode的http伺服器和埠

50075

hdfs-site.xml 

0.0.0.0:50075

mr埠

引數描述

預設配置檔案

例子值mapred.job.tracker

job tracker互動埠 

job tracker的web管理埠

task tracker的http埠

50060

mapred-site.xml

0.0.0.0:50060

其他埠

引數描述 

預設 配置檔案

例子值dfs.secondary.http.address 

secondary namenode web管理埠

50090

hdfs-site.xml

0.0.0.0:28680 引數

描述 預設 

配置檔案

例子值dfs.name.dir

name node的元資料,以,號隔開,hdfs會把元資料冗餘複製到這些目錄,一般這些目錄是不同的塊裝置,不存在的目錄會被忽略掉

/dfs/name

hdfs-site.xm

/hadoop/hdfs/name

dfs.name.edits.dir 

node node的事務檔案儲存的目錄,以,號隔開,hdfs會把事務檔案冗餘複製到這些目錄,一般這些目錄是不同的塊裝置,不存在的目錄會被忽略掉

$hdfs-site.xm

$fs.checkpoint.dir

secondary namenode的元資料以,號隔開,hdfs會把元資料冗餘複製到這些目錄,一般這些目錄是不同的塊裝置,不存在的目錄會被忽略掉

$/dfs/namesecondary

core-site.xml

/hadoop/hdfs/namesecondary

fs.checkpoint.edits.dir

secondary namenode的事務檔案儲存的目錄,以,號隔開,hdfs會把事務檔案冗餘複製到這些目錄

$core-site.xml

$hadoop.tmp.dir

臨時目錄,其他臨時目錄的父目錄

/tmp/hadoop-$

core-site.xml

/hadoop/tmp/hadoop-$

dfs.data.dir

data node的資料目錄,以,號隔開,hdfs會把資料存在這些目錄下,一般這些目錄是不同的塊裝置,不存在的目錄會被忽略掉

$/dfs/data

hdfs-site.xm

/hadoop/hdfs/data1/data,

/hadoop/hdfs/data2/data

mapred.local.dir

mapreduce產生的中間資料存放目錄,以,號隔開,hdfs會把資料存在這些目錄下,一般這些目錄是不同的塊裝置,不存在的目錄會被忽略掉

$/mapred/local

mapred-site.xml

/hadoop/hdfs/data1/mapred/local,

/hadoop/hdfs/data2/mapred/local

mapred.system.dir

mapreduce的控制檔案

$/mapred/system

mapred-site.xml

/hadoop/hdfs/data1/system

引數描述 

預設 配置檔案

例子值false

hdfs-site.xml

true

dfs.replication 

檔案複製的副本數,如果建立時不指定這個引數,就使用這個預設值作為複製的副本數

3hdfs-site.xml2

Hadoop常用埠的配置

以下列表常用的hadoop配置埠 基於hadoop2.7.4所列,不過不同hadoop版本在埠配置上所指意義基本是不變化的,如有例外請自查 引數 描述預設 配置檔案 例子值fs.default.name namenode namenode rpc互動埠 namenode web管理埠 50070 h...

hadoop常用的埠配置

引數 描述預設 配置檔案 例子值fs.default.name namenode namenode rpc互動埠 namenode web管理埠 hdfs site.xml 0.0.0.0 50070 dfs.datanode.address datanode 控制埠 50010 hdfs site...

Hadoop常用配置

這裡是瀏覽hadoop當前版本號的預設配置檔案,其他版本號,要另外去官網找。其中第乙個方法找到預設的配置是最好的,因為每個屬性都有說明,可以直接使用。另外,core site.xml是全域性配置,hdfs site.xml和mapred site.xml分別是hdfs和mapred的區域性配置。hd...