負載均衡（load balance）是分布式系統架構設計中必須考慮的因素之一，它通常是指，將請求/資料【均勻】分攤到多個操作單元上執行，負載均衡的關鍵在於【均勻】。常見網際網路分布式架構如上，分為客戶端層、反向**nginx層、站點層、服務層、資料層。
什麼是負載均衡
負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一，它通常是指，將請求/資料【均勻】分攤到多個操作單元上執行，負載均衡的關鍵在於【均勻】。
常見的負載均衡方案
常見網際網路分布式架構如上，分為客戶端層、反向**nginx層、站點層、服務層、資料層。可以看到，每乙個下游都有多個上游呼叫，只需要做到，每乙個上游都均勻訪問每乙個下游，就能實現「將請求/資料【均勻】分攤到多個操作單元上執行」。
【客戶端層->反向**層】的負載均衡
【客戶端層】到【反向**層】的負載均衡，是通過「dns輪詢」實現的：dns-server對於乙個網域名稱配置了多個解析ip，每次dns解析請求來訪問dns-server，會輪詢返回這些ip，保證每個ip的解析概率是相同的。這些ip就是nginx的外網ip，以做到每台nginx的請求分配也是均衡的。
【反向**層->站點層】的負載均衡
【反向**層】到【站點層】的負載均衡，是通過「nginx」實現的。通過修改nginx.conf，可以實現多種負載均衡策略：
1)請求輪詢：和dns輪詢類似，請求依次路由到各個web-server
2)最少連線路由：哪個web-server的連線少，路由到哪個web-server
3)ip雜湊：按照訪問使用者的ip雜湊值來路由web-server，只要使用者的ip分布是均勻的，請求理論上也是均勻的，ip雜湊均衡方法可以做到，同乙個使用者的請求固定落到同一臺web-server上，此策略適合有狀態服務，例如session(58沈劍備註：可以這麼做，但強烈不建議這麼做，站點層無狀態是分布式架構設計的基本原則之一，session最好放到資料層儲存)
4)…【站點層->服務層】的負載均衡
【站點層】到【服務層】的負載均衡，是通過「服務連線池」實現的。
上游連線池會建立與下游服務多個連線，每次請求會「隨機」選取連線來訪問下游服務。
【資料層】的負載均衡
在資料量很大的情況下，由於資料層(db，cache)涉及資料的水平切分，所以資料層的負載均衡更為複雜一些，它分為「資料的均衡」，與「請求的均衡」。
資料的均衡是指：水平切分後的每個服務(db，cache)，資料量是差不多的。
請求的均衡是指：水平切分後的每個服務(db，cache)，請求量是差不多的。
業內常見的水平切分方式有這麼幾種：
一、按照range水平切分
每乙個資料服務，儲存一定範圍的資料，上圖為例：
user0服務，儲存uid範圍1-1kw
user1服務，儲存uid範圍1kw-2kw
這個方案的好處是：
(1)規則簡單，service只需判斷一下uid範圍就能路由到對應的儲存服務
(2)資料均衡性較好
(3)比較容易擴充套件，可以隨時加乙個uid[2kw,3kw]的資料服務
不足是：
(1)請求的負載不一定均衡，一般來說，新註冊的使用者會比老使用者更活躍，大range的服務請求壓力會更大
二、按照id雜湊水平切分
每乙個資料服務，儲存某個key值hash後的部分資料，上圖為例：
user0服務，儲存偶數uid資料
user1服務，儲存奇數uid資料
這個方案的好處是：
(1)規則簡單，service只需對uid進行hash能路由到對應的儲存服務
(2)資料均衡性較好
(3)請求均勻性較好
不足是：
(1)不容易擴充套件，擴充套件乙個資料服務，hash方法改變時候，可能需要進行資料遷移
總結負載均衡(load balance)是分布式系統架構設計中必須考慮的因素之一，它通常是指，將請求/資料【均勻】分攤到多個操作單元上執行，負載均衡的關鍵在於【均勻】。
(1)【客戶端層】到【反向**層】的負載均衡，是通過「dns輪詢」實現的
(2)【反向**層】到【站點層】的負載均衡，是通過「nginx」實現的
(3)【站點層】到【服務層】的負載均衡，是通過「服務連線池」實現的
(4)【資料層】的負載均衡，要考慮「資料的均衡」與「請求的均衡」兩個點，常見的方式有「按照範圍水平切分」與「hash水平切分」
負載均衡演算法概述
我們查詢註冊中心獲得了某個服務的可用節點列表，我們需要從可用節點列表中選擇乙個發起呼叫，這就是負載均衡的所用了。需要考慮兩個因素，個是要考慮調 的均勻性，也就是要讓每個節點都接收到調 發揮所有節點的作 另 個是要考慮調 的效能，也就是哪個節點響應最快，優先調 哪個節點。隨機演算法 偽隨機 隨機演算法...
十二 負載均衡基本概述
隨著有線無線網路的漸漸擴張,大規模網路的建設和應用,大量資訊的互動和流動,給我們的伺服器帶來了空前的壓力 那麼,如何進行乙個優化,如何緩解單一伺服器的壓力呢?這就引出了負載均衡這個概念 那麼,什麼是負載均衡呢?負載均衡 load balance 由於目前現有網路的各個核心部分隨著業務量的提高,訪問量...
Nginx四層負載均衡概述
目錄nginx如何配置四層負載均衡 nginx四層負載均衡埠 四層負載均衡是基於傳輸層協議包來封裝的 如 tcp ip 那我們前面使用到的七層是指的應用層，他的組裝在四層的基礎之上，無論四層還是七層都是指的osi網路模型。1 四層 七層來做負載均衡，四層可以保證七層的負載均衡的高可用性 如 ngin...