Spark的註冊服務

2021-07-17 01:35:09 字數 945 閱讀 2497

## spark的註冊服務##

[睡著的水-hzjs-2016.8.21]

一、master對其它元件註冊(註冊其實就是保留資訊)的處理

---2、worker 是在啟動後主動向master註冊的,所以如果在生產環境下加入新的worker到已經執行的spark集群上,此時不需要重新啟動spark集群就能夠使用新加入的worker以提公升處理能力。

---3、master在接受到worker的註冊的請求後,首先會判斷當前的master是否是standby的模式,如果是的話就不處理;然後會判斷當前的master 的記憶體資料結構idtoworker 中是否已經存在worker的資訊,如果有的話不會進行註冊

---4、master如果決定接受註冊的worker,首先會建立workerinfo 物件來儲存註冊的worker的資訊:

然後,呼叫registerworker來執行具體的註冊流程的過程,首先會判斷worker的狀態是否是dead,是,,,則直接過濾掉,對於unknown狀態的 呼叫removeworker進行清理(包括清理worker下的executors 和 driver),

二、master 對driver 和executor 狀態變化的處理

1、對driver狀態的變化處理

2、exrcutor掛掉的時候系統會嘗試一定次數的重啟(最多重啟10 次)

spark 學習筆記 dataframe註冊生成表

dataframe註冊成一張 如果通過createtempview這種方式來建立,那麼該 session有效,如果通過createglobaltempview來建立,那麼該 跨session有效,但是sql語句訪問該 的時候需要加上字首global temp dataframe 轉換為臨時表,執行s...

Spark之Master註冊機制

worker在啟動之後就會像master進行註冊。首先master會判斷這個woker的狀態是否為dead 就是狀態已經為dead但是還給master傳送訊息 那麼就把這個driver過濾掉。然後unkown狀態的worker的狀態會被更新。然後將這些woker加入master的快取中 乙個map集...

微服務 服務註冊

將乙個服務註冊給eureka org.springframework.cloud spring cloud starter netflix eureka client spring name userservice orderservice eureka client service url def...