負責hbase的table region的管理
rs的region的負載均衡
region的** 及**後的region的分配
rs掛的時候 region遷移
負責資料的路由、資料讀寫和資料的持久化
hregionserver dn部署同一臺
乙個rs節點包含多個region,
乙個region根據cf劃分為store,
乙個store包含1個memstore、0或多個storefile。
乙個region只能屬於乙個表,在乙個rs節點上
儲存meta表所在的rs節點和matser位址
rs主動向zk註冊,使得mater可以隨時感知rs的健康狀態
hmaster ha 避免單獨故障
write ahead log --->簡稱wal
寫緩衝 qps 3w-->40w
region級別(store級別)
有序,當記憶體滿了之後flush成為乙個storefile
當storefile檔案數量增加到一定閾值,觸發compaction-->小合併
memstore其實是乙個記憶體結構儲存,乙個cf對應乙個memstore,資料是字典排序
#storefile
storefile 合併 逐步形成越來越大的storefile-->split **。
#blockcache: 讀快取
是rs級別 乙個rs只有乙個blockcache,啟動時完成初始化動作.
在讀取資料,將資料快取進去
HBase的架構設計為什麼這麼厲害
老劉是一名即將找工作的研二學生,寫部落格一方面是複習總結大資料開發的知識點,一方面是希望能夠幫助和自己一樣自學程式設計的夥伴。由於老劉是自學大資料開發,部落格中肯定會存在一些不足,還希望大家能夠批評指正,讓我們一起進步!我們要提前知道兩個問題,這兩個問題的解決也恰好回答了hbase的架構設計為什麼這...
salesforce 架構設計 從架構設計到架構師
因為碎片化的時間多了,所以開始刷起某乎了,關注了架構相關的板塊,也順手回答了一些問題。發現有很多同道中人正在經歷著我前兩年經歷的階段,對於做架構沒有相對具象的一些理解,更沒有系統化的認識。所以把最近回答的一些內容整理一下,權當記錄,留給3年後的自己 按慣例,容許我裝x開頭 一 架構的定義 在軟體開發...
mysql架構設計 初識mysql架構設計
一 應用系統如何與mysql進行一次互動?最開始接觸jdbc的時候,我們系統如何完成一次sql操作呢?第一步,建立資料庫連線 第二步,操作sql 第三步,釋放連線。但是每次建立與資料庫的連線非常耗時和資源,所以我們加入了連線池的概念。第一步的獲取連線是從連線池中獲取乙個可用的連線,第三步的釋放連線不...