我們都知道hive是在mapreduce基礎上執行任務的,那麼在用cdh的時候,因為cdh安裝時提供了好幾個hadoop的配置檔案供選擇,分別有conf.cloudera.hdfs1,conf.cloudera.mapreduce1,conf.cloudera.yarn1,並且通過alternatives --display hadoop-conf的命令可以看到當前選擇的hadoop-conf是哪乙個:
hadoop-conf -status is manual
/etc/hadoop/conf.empty - priority 10
/etc/hadoop/conf.cloudera.hdfs1 - priority 90
/etc/hadoop/conf.cloudera.yarn1 - priority 91
/etc/hadoop/conf.cloudera.mapreduce1 - priority 92
current 'best' version is /etc/hadoop/conf.cloudera.mapreduce1.
從上面可以看出hadoop-conf的可選項以及各個的優先順序,在自動情況下,會選擇conf.cloudera.mapreduce1,如果手動設定可以自由選擇。
在cdh hive的使用時需要指定採用哪種mr架構,mrv1還是mrv2,如果選擇mrv2,那麼就是yarn架構了,這時我們需要手動修改hadoop-conf為conf.cloudera.yarn1,即alternative --config hadoop-conf ,出現
there are 5 programs which provide 'hadoop-conf'.
1 /etc/hadoop/conf.empty - priority 10
2 /etc/hadoop/conf.cloudera.hdfs1 - priority 90
3 /etc/hadoop/conf.cloudera.yarn1 - priority 91
4 /etc/hadoop/conf.cloudera.mapreduce1 - priority
enter to keep the current selection[+],or type selection number:
這樣輸入3即可選擇yarn。
在確定hive採用哪種架構時,我們通過這種方式決定hadoop-conf,如果是yarn,選擇3即可。
HDFS和MR的配置和使用
在 hadoop home etc hadoop core site.xml檔案 fs.defaultfs hdfs 主機名 9000 hadoop.tmp.dir opt module hadoop 2.7.2 data tmp 格式化namenode 只需要格式化一次 命令 hadoop nam...
PySNMP中文5 文件 PySNMP的架構
我們可以從snmp協議演進的角度來看待pysnmp的內部結構。snmp多年來一直在發展,從一種相對簡單的資料結構和檢索方法 snmpv1 v2c 一直發展到強大的開箱即用加密的可擴充套件和模組化框架 snmpv3 按照從最古老的snmp服務到最新的snmp服務的順序,以下是pysnmp api的不同...
配置中文 一 中文環境的配置
在latex中使用中文需要滿足以下三項條件 1 tex原始檔用utf 8編碼儲存 2 匯入合適的包並正確配置 3 使用xelatex編譯 此處1,3不言自明。關於第2點,一般選擇匯入ctex包或xecjk包,經研究,ctex似是xecjk的高階封裝,此外我也從未使用過ctex,因此以下僅以xecjk...