在解決分布式系統中負載均衡的問題時候可以使用hash演算法讓固定的一部分請求落到同一臺伺服器上,這樣每台伺服器固定處理一部分請求(並維護這些請求的資訊),起到負載均衡的作用。
但是普通的餘數hash(hash(比如使用者id)%伺服器機器數)演算法伸縮性很差,當新增或者下線伺服器機器時候,使用者id與伺服器的對映關係會大量失效。一致性hash則利用hash環對其進行了改進。
為了能直觀的理解一致性hash原理,這裡結合乙個簡單的例子來講解,假設有4臺伺服器,位址為ip1,ip2,ip3,ip4。
如上圖可知user1,user2的請求會落到伺服器ip2進行處理,user3的請求會落到伺服器ip3進行處理,user4的請求會落到伺服器ip4進行處理,user5,user6的請求會落到伺服器ip1進行處理。
下面考慮當ip2的伺服器掛了的時候會出現什麼情況?
當ip2的伺服器掛了的時候,一致性hash環大致如下圖:
根據順時針規則可知user1,user2的請求會被伺服器ip3進行處理,而其它使用者的請求對應的處理伺服器不變,也就是只有之前被ip2處理的一部分使用者的對映關係被破壞了,並且其負責處理的請求被順時針下乙個節點委託處理。
下面考慮當新增機器的時候會出現什麼情況?
當新增乙個ip5的伺服器後,一致性hash環大致如下圖:
根據順時針規則可知之前user1的請求應該被ip1伺服器處理,現在被新增的ip5伺服器處理,其他使用者的請求處理伺服器不變,也就是新增的伺服器順時針最近的伺服器的一部分請求會被新增的伺服器所替代。
伺服器ip1,ip2,ip3經過hash後落到了一致性hash環上,從圖中hash值分布可知ip1會負責處理大概80%的請求,而ip2和ip3則只會負責處理大概20%的請求,雖然三個機器都在處理請求,但是明顯每個機器的負載不均衡,這樣稱為一致性hash的傾斜,虛擬節點的出現就是為了解決這個問題。
當伺服器節點比較少的時候會出現上節所說的一致性hash傾斜的問題,乙個解決方法是多加機器,但是加機器是有成本的,那麼就加虛擬節點,比如上面三個機器,每個機器引入1個虛擬節點後的一致性hash環的圖如下:
其中ip1-1是ip1的虛擬節點,ip2-1是ip2的虛擬節點,ip3-1是ip3的虛擬節點。
可知當物理機器數目為m,虛擬節點為n的時候,實際hash環上節點個數為m*(n+1)。比如當客戶端計算的hash值處於ip2和ip3或者處於ip2-1和ip3-1之間時候使用ip3伺服器進行處理。
上節我們使用虛擬節點後的圖看起來比較均衡,但是如果生成虛擬節點的演算法不夠好很可能會得到下面的環:
可知每個服務節點引入1個虛擬節點後,情況相比沒有引入前均衡性有所改善,但是並不均衡。
均衡的一致性hash應該是如下圖:
均勻一致性hash的目標是如果伺服器有n臺,客戶端的hash值有m個,那麼每個伺服器應該處理大概m/n個使用者的。也就是每台伺服器負載盡量均衡。dubbo提供的一致性hash負載均衡演算法就是不均勻的,我們自己實現了dubbo的spi擴充套件實現了均勻一致性hash.
在分布式系統中一致性hash起著不可忽略的地位,無論是分布式快取,還是分布式rpc框架的負載均衡策略都有所使用。
深入淺出一致性Hash原理
在解決分布式系統中負載均衡的問題時候可以使用hash演算法讓固定的一部分請求落到同一臺伺服器上,這樣每台伺服器固定處理一部分請求 並維護這些請求的資訊 起到負載均衡的作用。但是普通的餘數hash hash 比如使用者id 伺服器機器數 演算法伸縮性很差,當新增或者下線伺服器機器時候,使用者id與伺服...
深入淺出一致性Hash原理
在解決分布式系統中負載均衡的問題時候可以使用hash演算法讓固定的一部分請求落到同一臺伺服器上,這樣每台伺服器固定處理一部分請求 並維護這些請求的資訊 起到負載均衡的作用。但是普通的餘數hash hash 比如使用者id 伺服器機器數 演算法伸縮性很差,當新增或者下線伺服器機器時候,使用者id與伺服...
深入淺出一致性 Hash 原理
在解決分布式系統中負載均衡的問題時候可以使用 hash 演算法讓固定的一部分請求落到同一臺伺服器上 這樣每台伺服器固定處理一部分請求 並維護這些請求的資訊 起到負載均衡的作用 但是普通的餘數 hash 比如使用者 id 伺服器機器數 演算法伸縮性很差 當新增或者下線伺服器機器時候 使用者 id 與伺...