hive配置檔案例項教程

2021-12-30 08:41:51 字數 3569 閱讀 9782

說明:所有hive執行的map與reduce任務可以產生的檔案的和

預設值:100000

hive.exec.dynamic.partition

說明:是否為自動分割槽

預設值:false

hive.mapred.reduce.tasks.speculative.execution

說明:是否開啟推測執行

預設值:true

hive.input.format

說明:hive預設的input format

預設值: org.apache.hadoop.hive.ql.io.combinehiveinputformat

如果有問題可以使用org.apache.hadoop.hive.ql.io.hiveinputformat

hive.exec.counters.pull.interval

說明:hive與jobtracker拉取counter資訊的時間

預設值:1000ms

hive.script.recordreader

說明:使用指令碼時預設的讀取類

預設值: org.apache.hadoop.hive.ql.exec.textrecordreader

hive.script.recordwriter

說明:使用指令碼時預設的資料寫入類

預設值: org.apache.hadoop.hive.ql.exec.textrecordwriter

hive.mapjoin.check.memory.rows

說明: 記憶體裡可以儲存資料的行數

預設值: 100000

hive.mapjoin.smalltable.filesize

說明:輸入小表的檔案大小的閥值,如果小於該值,就採用普通的join

預設值: 25000000

hive.auto.convert.join

說明:是不是依據輸入檔案的大小,將join轉成普通的map join

預設值: false

hive.mapjoin.followby.gby.localtask.max.memory.usage

說明:map join做group by 操作時,可以使用多大的記憶體來儲存資料,如果資料太大,則不會儲存在記憶體裡

預設值:0.55

hive.mapjoin.localtask.max.memory.usage

說明:本地任務可以使用記憶體的百分比

預設值: 0.90

hive.heartbeat.interval

說明:在進行mapjoin與過濾操作時,傳送心跳的時間

預設值1000

hive.merge.size.per.task

說明: 合併後檔案的大小

預設值: 256000000

hive.mergejob.maponly

說明: 在只有map任務的時候 合併輸出結果

預設值: true

hive.merge.mapredfiles

預設值: 在作業結束的時候是否合併小檔案

說明: false

hive.merge.mapfiles

說明:map-only job是否合併小檔案

預設值:true

hive.hwi.listen.host

說明:hive ui 預設的host

預設值:0.0.0.0

hive.hwi.listen.port

說明:ui監聽埠

預設值:9999

hive.exec.parallel.thread.number

說明:hive可以並行處理job的執行緒數

預設值:8

hive.exec.parallel

說明:是否並行提交任務

預設值:false

hive.exec.compress.output

說明:輸出使用壓縮

預設值: false

hive.mapred.mode

說明: mapreduce的操作的限制模式,操作的執行在該模式下沒有什麼限制

預設值: nonstrict

hive.join.cache.size

說明: join操作時,可以存在記憶體裡的條數

預設值: 25000

hive.mapjoin.cache.numrows

說明: mapjoin 存在記憶體裡的資料量

預設值:25000

hive.join.emit.interval

說明: 有連線時hive在輸出前,快取的時間

預設值: 1000

hive.optimize.groupby

說明:在做分組統計時,是否使用bucket table

預設值: true

hive.fileformat.check

說明:是否檢測檔案輸入格式

預設值:true

hive.metastore.client.connect.retry.delay

說明: client 連線失敗時,retry的時間間隔

預設值:1秒

hive.metastore.client.socket.timeout

說明: client socket 的超時時間

預設值:20秒

mapred.reduce.tasks

預設值:-1

說明:每個任務reduce的預設值

-1 代表自動根據作業的情況來設定reduce的值

hive.exec.reducers.bytes.per.reducer

預設值: 1000000000 (1g)

說明:每個reduce的接受的資料量

如果送到reduce的資料為10g,那麼將生成10個reduce任務

hive.exec.reducers.max

預設值:999

說明: reduce的最大個數

hive.exec.reducers.max

預設值:999

說明: reduce的最大個數

hive.metastore.warehouse.dir

預設值:/user/hive/warehouse

說明: 預設的資料庫存放位置

hive.default.fileformat

預設值:textfile

說明: 預設的fileformat

hive.map.aggr

預設值:true

說明: map端聚合,相當於combiner

hive.exec.max.dynamic.partitions.pernode

預設值:100

說明:每個任務節點可以產生的最大的分割槽數

hive.exec.max.dynamic.partitions

預設值:1000

說明: 預設的可以建立的分割槽數

hive.metastore.server.max.threads

預設值:100000

說明: metastore預設的最大的處理執行緒數

hive.metastore.server.min.threads

預設值:200

說明: metastore預設的最小的處理執行緒數

awk例項教程

1.awk語法規則 awk 2.顯示最近登入的5個帳號 last n 5 awk root root root dmtsai root awk工作流程是這樣的 讀入有 n 換行符分割的一條記錄,然後將記錄按指定的域分隔符劃分域,填充域,0則表示所有域,1表示第乙個域,n表示第n個域。預設域分隔符是 ...

CSS reflow例項教程

frame主要的動作有三個 構造frame,以建立物件樹 dom樹 reflow,以確定物件位置,或者www.cppcns.com是呼叫mozilla的layout 這裡是指原始碼的實現 繪製,以便物件能顯示在螢幕上 總的來說,reflow就是載入內容樹 在html中就是dom樹 和建立或更新fra...

PHP檔案鎖定寫入例項教程

php檔案寫入方法,以應對多執行緒寫入,具體 function file write file name text mode a timeout 30 if timeout 0 return false 其中flock int handle,int operation 函式操作的 handle 必須...