負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。
常見網際網路分布式架構如上,分為客戶端層、反向**nginx層、站點層、服務層、資料層。可以看到,每乙個下游都有多個上游呼叫,只需要做到,每乙個上游都均勻訪問每乙個下游,就能實現「將請求/資料【均勻】分攤到多個操作單元上執行」。
通過「dns輪詢」實現的:dns-server對於乙個網域名稱配置了多個解析ip,每次dns解析請求來訪問dns-server,會輪詢返回這些ip,保證每個ip的解析概率是相同的。這些ip就是nginx的外網ip,以做到每台nginx的請求分配也是均衡的。
見:單點系統架構的優化 的水平擴充套件
【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的。通過修改nginx.conf,可以實現多種負載均衡策略:
1)請求輪詢:和dns輪詢類似,請求依次路由到各個web-server
2)最少連線路由:哪個web-server的連線少,路由到哪個web-server
3)ip雜湊:按照訪問使用者的ip雜湊值來路由web-server,只要使用者的ip分布是均勻的,請求理論上也是均勻的,ip雜湊均衡方法可以做到,同乙個使用者的請求固定落到同一臺web-server上,此策略適合有狀態服務,例如session(58沈劍備註:可以這麼做,但強烈不建議這麼做,站點層無狀態是分布式架構設計的基本原則之一,session最好放到資料層儲存)
4)…【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的。
上游連線池會建立與下游服務多個連線,每次請求會「隨機」選取連線來訪問下游服務。dubbo,thirft很多rpc都有此考慮。
《rpc-client實現細節》中有詳細的負載均衡、故障轉移、超時處理的細節描述。
在資料量很大的情況下,由於資料層(db,cache)涉及資料的水平切分,所以資料層的負載均衡更為複雜一些,它分為「資料的均衡」,與「請求的均衡」。
資料的均衡是指:水平切分後的每個服務(db,cache),資料量是差不多的。
請求的均衡是指:水平切分後的每個服務(db,cache),請求量是差不多的。
業內常見的水平切分方式有這麼幾種:
一、按照range水平切分
每乙個資料服務,儲存一定範圍的資料,上圖為例:
user0服務,儲存uid範圍1-1kw
user1服務,儲存uid範圍1kw-2kw
這個方案的好處是:
(1)規則簡單,service只需判斷一下uid範圍就能路由到對應的儲存服務
(2)資料均衡性較好
(3)比較容易擴充套件,可以隨時加乙個uid[2kw,3kw]的資料服務
不足是:
(1)請求的負載不一定均衡,一般來說,新註冊的使用者會比老使用者更活躍,大range的服務請求壓力會更大
二、按照id雜湊水平切分
每乙個資料服務,儲存某個key值hash後的部分資料。
這個方案的好處是:
(1)規則簡單,service只需對uid進行hash能路由到對應的儲存服務
(2)資料均衡性較好
(3)請求均勻性較好
不足是:
(1)不容易擴充套件,擴充套件乙個資料服務,hash方法改變時候,可能需要進行資料遷移。
負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一,它通常是指,將請求/資料【均勻】分攤到多個操作單元上執行,負載均衡的關鍵在於【均勻】。
(1)【客戶端層】到【反向**層】的負載均衡,是通過「dns輪詢」實現的
(2)【反向**層】到【站點層】的負載均衡,是通過「nginx」實現的
(3)【站點層】到【服務層】的負載均衡,是通過「服務連線池」實現的
(4)【資料層】的負載均衡,要考慮「資料的均衡」與「請求的均衡」兩個點,常見的方式有「按照範圍水平切分」與「hash水平切分」
了解負載均衡的原理
什麼是負載均衡 當一台伺服器的單位時間內的訪問量越大時,伺服器壓力就越大,大到超過自身承受能力時,伺服器就會崩潰。為了避免伺服器崩潰,讓使用者有更好的體驗,我們通過負載均衡的方式來分擔伺服器壓力。我們可以建立很多很多伺服器,組成乙個伺服器集群,當使用者訪問 時,先訪問乙個中間伺服器,在讓這個中間伺服...
Nginx和負載均衡的初步了解
1.nginx到底能做什麼 1 反向 由於真實伺服器不能被外部網路直接訪問,所以通過 伺服器把internet上的連線請求 給同在乙個內部網路上的伺服器,再把從伺服器上得到的結果返回給客戶端,可以是不同伺服器,也可以是同一臺伺服器,只是埠不同而已 2 負載均衡 根據一定規則 負載均衡策略 把不同的請...
nginx 負載均衡 Nginx負載均衡策略
nginx提供的負載均衡策略有2種 內建策略和擴充套件策略。內建策略為輪詢 預設 加權輪詢,ip hash,第三方。upstream mysvr1 輪詢 每個請求按照時間順序逐一的分配到每乙個後台伺服器上。如果某台伺服器宕機了,將會自動的剔除宕機的服務。nginx預設就是輪詢其權重都預設為1,伺服器...