了解負載均衡

2022-03-11 20:17:57 字數 2196 閱讀 6450

負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。

常見網際網路分布式架構如上,分為客戶端層、反向**nginx層、站點層、服務層、資料層。可以看到,每乙個下游都有多個上游呼叫,只需要做到,每乙個上游都均勻訪問每乙個下游,就能實現「將請求/資料【均勻】分攤到多個操作單元上執行」。 

通過「dns輪詢」實現的:dns-server對於乙個網域名稱配置了多個解析ip,每次dns解析請求來訪問dns-server,會輪詢返回這些ip,保證每個ip的解析概率是相同的。這些ip就是nginx的外網ip,以做到每台nginx的請求分配也是均衡的。

見:單點系統架構的優化  的水平擴充套件

【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的。通過修改nginx.conf,可以實現多種負載均衡策略:

1)請求輪詢:和dns輪詢類似,請求依次路由到各個web-server

2)最少連線路由:哪個web-server的連線少,路由到哪個web-server

3)ip雜湊:按照訪問使用者的ip雜湊值來路由web-server,只要使用者的ip分布是均勻的,請求理論上也是均勻的,ip雜湊均衡方法可以做到,同乙個使用者的請求固定落到同一臺web-server上,此策略適合有狀態服務,例如session(58沈劍備註:可以這麼做,但強烈不建議這麼做,站點層無狀態是分布式架構設計的基本原則之一,session最好放到資料層儲存)

4)…【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的。

上游連線池會建立與下游服務多個連線,每次請求會「隨機」選取連線來訪問下游服務。dubbo,thirft很多rpc都有此考慮。

《rpc-client實現細節》中有詳細的負載均衡、故障轉移、超時處理的細節描述。

在資料量很大的情況下,由於資料層(db,cache)涉及資料的水平切分,所以資料層的負載均衡更為複雜一些,它分為「資料的均衡」,與「請求的均衡」。

資料的均衡是指:水平切分後的每個服務(db,cache),資料量是差不多的。

請求的均衡是指:水平切分後的每個服務(db,cache),請求量是差不多的。

業內常見的水平切分方式有這麼幾種:

一、按照range水平切分

每乙個資料服務,儲存一定範圍的資料,上圖為例:

user0服務,儲存uid範圍1-1kw

user1服務,儲存uid範圍1kw-2kw

這個方案的好處是:

(1)規則簡單,service只需判斷一下uid範圍就能路由到對應的儲存服務

(2)資料均衡性較好

(3)比較容易擴充套件,可以隨時加乙個uid[2kw,3kw]的資料服務

不足是:

(1)請求的負載不一定均衡,一般來說,新註冊的使用者會比老使用者更活躍,大range的服務請求壓力會更大

二、按照id雜湊水平切分

每乙個資料服務,儲存某個key值hash後的部分資料。

這個方案的好處是:

(1)規則簡單,service只需對uid進行hash能路由到對應的儲存服務

(2)資料均衡性較好

(3)請求均勻性較好

不足是:

(1)不容易擴充套件,擴充套件乙個資料服務,hash方法改變時候,可能需要進行資料遷移。 

負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。

(1)【客戶端層】到【反向**層】的負載均衡,是通過「dns輪詢」實現的

(2)【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的

(3)【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的

(4)【資料層】的負載均衡,要考慮「資料的均衡」與「請求的均衡」兩個點,常見的方式有「按照範圍水平切分」與「hash水平切分」

了解負載均衡的原理

什麼是負載均衡 當一台伺服器的單位時間內的訪問量越大時,伺服器壓力就越大,大到超過自身承受能力時,伺服器就會崩潰。為了避免伺服器崩潰,讓使用者有更好的體驗,我們通過負載均衡的方式來分擔伺服器壓力。我們可以建立很多很多伺服器,組成乙個伺服器集群,當使用者訪問 時,先訪問乙個中間伺服器,在讓這個中間伺服...

Nginx和負載均衡的初步了解

1.nginx到底能做什麼 1 反向 由於真實伺服器不能被外部網路直接訪問,所以通過 伺服器把internet上的連線請求 給同在乙個內部網路上的伺服器,再把從伺服器上得到的結果返回給客戶端,可以是不同伺服器,也可以是同一臺伺服器,只是埠不同而已 2 負載均衡 根據一定規則 負載均衡策略 把不同的請...

nginx 負載均衡 Nginx負載均衡策略

nginx提供的負載均衡策略有2種 內建策略和擴充套件策略。內建策略為輪詢 預設 加權輪詢,ip hash,第三方。upstream mysvr1 輪詢 每個請求按照時間順序逐一的分配到每乙個後台伺服器上。如果某台伺服器宕機了,將會自動的剔除宕機的服務。nginx預設就是輪詢其權重都預設為1,伺服器...