負載均衡簡介

2021-08-09 14:58:30 字數 2805 閱讀 2802

原文:

負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。常見網際網路分布式架構如上,分為客戶端層、反向**nginx層、站點層、服務層、資料層。

| 2016-09-14 15:57

移動端

收藏分享

什麼是負載均衡

負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。

常見的負載均衡方案

常見網際網路分布式架構如上,分為客戶端層、反向**nginx層、站點層、服務層、資料層。可以看到,每乙個下游都有多個上游呼叫,只需要做到,每乙個上游都均勻訪問每乙個下游,就能實現「將請求/資料【均勻】分攤到多個操作單元上執行」。

【客戶端層->反向**層】的負載均衡

【客戶端層】到【反向**層】的負載均衡,是通過「dns輪詢」實現的:dns-server對於乙個網域名稱配置了多個解析ip,每次dns解析請求來訪問dns-server,會輪詢返回這些ip,保證每個ip的解析概率是相同的。這些ip就是nginx的外網ip,以做到每台nginx的請求分配也是均衡的。

【反向**層->站點層】的負載均衡

【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的。通過修改nginx.conf,可以實現多種負載均衡策略:

1)請求輪詢:和dns輪詢類似,請求依次路由到各個web-server

2)最少連線路由:哪個web-server的連線少,路由到哪個web-server

3)ip雜湊:按照訪問使用者的ip雜湊值來路由web-server,只要使用者的ip分布是均勻的,請求理論上也是均勻的,ip雜湊均衡方法可以做到,同乙個使用者的請求固定落到同一臺web-server上,此策略適合有狀態服務,例如session(58沈劍備註:可以這麼做,但強烈不建議這麼做,站點層無狀態是分布式架構設計的基本原則之一,session最好放到資料層儲存)

4)…【站點層->服務層】的負載均衡

【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的。

上游連線池會建立與下游服務多個連線,每次請求會「隨機」選取連線來訪問下游服務。

【資料層】的負載均衡

在資料量很大的情況下,由於資料層(db,cache)涉及資料的水平切分,所以資料層的負載均衡更為複雜一些,它分為「資料的均衡」,與「請求的均衡」。

資料的均衡是指:水平切分後的每個服務(db,cache),資料量是差不多的。

請求的均衡是指:水平切分後的每個服務(db,cache),請求量是差不多的。

業內常見的水平切分方式有這麼幾種:

一、按照range水平切分

每乙個資料服務,儲存一定範圍的資料,上圖為例:

user0服務,儲存uid範圍1-1kw

user1服務,儲存uid範圍1kw-2kw

這個方案的好處是:

(1)規則簡單,service只需判斷一下uid範圍就能路由到對應的儲存服務

(2)資料均衡性較好

(3)比較容易擴充套件,可以隨時加乙個uid[2kw,3kw]的資料服務

不足是:

(1)請求的負載不一定均衡,一般來說,新註冊的使用者會比老使用者更活躍,大range的服務請求壓力會更大

二、按照id雜湊水平切分

每乙個資料服務,儲存某個key值hash後的部分資料,上圖為例:

user0服務,儲存偶數uid資料

user1服務,儲存奇數uid資料

這個方案的好處是:

(1)規則簡單,service只需對uid進行hash能路由到對應的儲存服務

(2)資料均衡性較好

(3)請求均勻性較好

不足是:

(1)不容易擴充套件,擴充套件乙個資料服務,hash方法改變時候,可能需要進行資料遷移

總結

負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。

(1)【客戶端層】到【反向**層】的負載均衡,是通過「dns輪詢」實現的

(2)【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的

(3)【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的

(4)【資料層】的負載均衡,要考慮「資料的均衡」與「請求的均衡」兩個點,常見的方式有「按照範圍水平切分」與「hash水平切分」

負載均衡簡介

負載均衡 load balance 是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求 資料 均勻 分攤到多個操作單元上執行,負載均衡的關鍵在於 均勻 常見網際網路分布式架構如上,分為客戶端層 反向 nginx層 站點層 服務層 資料層。什麼是負載均衡 負載均衡 load balance ...

負載均衡簡介

負載均衡是高可用網路基礎架構的的乙個關鍵組成部分,有了負載均衡,我們通常可以將我們的應用伺服器部署多台,然後通過負載均衡將使用者的請求分發到不同的伺服器用來提高 應用 資料庫或其他服務的效能以及可靠性。為什麼要引入負載均衡 先看乙個沒有負載均衡機制的web架構 上圖中的架構有什麼缺陷了?首先,使用者...

負載均衡簡介

當我們的web伺服器直接面向使用者,往往要承載大量併發請求,單台伺服器難以負荷,我使用多台web伺服器組成集群,前端使用nginx負載均衡,將請求分散的打到我們的後端伺服器集群中,實現負載的分發。那麼會大大提公升系統的吞吐率 請求效能 高容災 往往我們接觸的最多的是slb server load b...