什麼是應用服務雪崩？
雪崩問題
分布式系統都存在這樣乙個問題，由於網路的不穩定性，決定了任何乙個服務的可用性都不是 100% 的。當網路不穩定的時候，作為服務的提供者，自身可能會被拖死，導致服務呼叫者阻塞，最終可能引發雪崩連鎖效應。
快取雪崩
當快取伺服器重啟或者大量快取集中在某乙個時間段失效，這樣在失效的時候，也會給後端系統(比如db)帶來很大壓力，造成資料庫後端故障，從而引起應用伺服器雪崩。
雪崩效應產生的幾種場景
流量激增：比如異常流量、使用者重試導致系統負載公升高；
快取重新整理：假設a為client端，b為server端，假設a系統請求都流向b系統，請求超出了b系統的承載能力，就會造成b系統崩潰；
程式有bug：**迴圈呼叫的邏輯問題，資源未釋放引起的記憶體洩漏等問題；
硬體故障：比如宕機，機房斷電，光纖被挖斷等。
資料庫嚴重瓶頸，比如：長事務、sql超時等。
執行緒同步等待：系統間經常採用同步服務呼叫模式，核心服務和非核心服務共用乙個執行緒池和訊息佇列。如果乙個核心業務執行緒呼叫非核心執行緒，這個非核心執行緒交由第三方系統完成，當第三方系統本身出現問題，導致核心執行緒阻塞，一直處於等待狀態，而程序間的呼叫是有超時限制的，最終這條執行緒將斷掉，也可能引發雪崩；
快取雪崩的解決方案
快取失效的幾種情況:
1、快取伺服器掛了
2、高峰期快取區域性失效
3、熱點快取失效
解決方案：
1、避免快取集中失效，不同的key設定不同的超時時間
2、增加互斥鎖，控制資料庫請求，重建快取。
3、提高快取的ha，如：redis集群。
雪崩的整體解決方案
一般情況對於服務依賴的保護主要有3種解決方案：
（1）熔斷模式
這種模式主要是參考電路熔斷，如果一條線路電壓過高，保險絲會熔斷，防止火災。放到我們的系統中，如果某個目標服務呼叫慢或者有大量超時，此時，熔斷該服務的呼叫，對於後續呼叫請求，不在繼續呼叫目標服務，直接返回，快速釋放資源。如果目標服務情況好轉則恢復呼叫。
重點監控的機器效能指標
cpu(load) cpu使用率/負載
memory 記憶體
mysql監控長事務(這裡與sql查詢超時是緊密結合的，需要重點監控)
sql超時
執行緒數等
總之，除了cpu、記憶體、執行緒數外，重點監控資料庫端的長事務、sql超時等，絕大多數應用伺服器發生的雪崩場景，都是**於資料庫端的效能瓶頸，從而先引起資料庫端大量瓶頸，最終拖累應用伺服器也發生雪崩，最後就是大面積的雪崩。
（2）隔離模式
這種模式就像對系統請求按型別劃分成乙個個小島的一樣，當某個小島被火少光了，不會影響到其他的小島。
例如可以對不同型別的請求使用執行緒池來資源隔離，每種型別的請求互不影響，如果一種型別的請求執行緒資源耗盡，則對後續的該型別請求直接返回，不再呼叫後續資源。這種模式使用場景非常多，例如將乙個服務拆開，對於重要的服務使用單獨伺服器來部署，再或者公司最近推廣的多中心。
（3）限流模式
上述的熔斷模式和隔離模式都屬於出錯後的容錯處理機制，而限流模式則可以稱為預防模式。限流模式主要是提前對各個型別的請求設定最高的qps閾值，若高於設定的閾值則對該請求直接返回，不再呼叫後續資源。這種模式不能解決服務依賴的問題，只能解決系統整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應。
熔斷設計
（1）熔斷請求判斷機制演算法：使用無鎖迴圈佇列計數，每個熔斷器預設維護10個bucket，每1秒乙個bucket，每個blucket記錄請求的成功、失敗、超時、拒絕的狀態，預設錯誤超過50%且10秒內超過20個請求進行中斷攔截。
（2）熔斷恢復：對於被熔斷的請求，每隔5s允許部分請求通過，若請求都是健康的（rt<250ms）則對請求健康恢復。
（3）熔斷報警：對於熔斷的請求打日誌，異常請求超過某些設定則報警。
隔離設計
隔離的方式一般使用兩種
（1）執行緒池隔離模式：使用乙個執行緒池來儲存當前的請求，執行緒池對請求作處理，設定任務返回處理超時時間，堆積的請求堆積入執行緒池佇列。這種方式需要為每個依賴的服務申請執行緒池，有一定的資源消耗，好處是可以應對突發流量（流量洪峰來臨時，處理不完可將資料儲存到執行緒池隊裡慢慢處理）
（2）訊號量隔離模式：使用乙個原子計數器（或訊號量）來記錄當前有多少個執行緒在執行，請求來先判斷計數器的數值，若超過設定的最大執行緒個數則丟棄改型別的新請求，若不超過則執行計數操作請求來計數器+1，請求返回計數器-1。這種方式是嚴格的控制線程且立即返回模式，無法應對突發流量（流量洪峰來臨時，處理的執行緒超過數量，其他的請求會直接返回，不繼續去請求依賴的服務）
超時機制設計
（1）超時分兩種，一種是請求的等待超時，一種是請求執行超時。
（2）等待超時：在任務入佇列時設定任務入佇列時間，並判斷隊頭的任務入佇列時間是否大於超時時間，超過則丟棄任務。
（3）執行超時：直接可使用執行緒池提供的get方法。
如何提前發現雪崩
就是首先讓系統不雪崩，然後通過監控發現請求正在接近或者超過閥值，然後再根據具體情況處理，這個接近或者超過閥值的過程，可以稱為 「提前發現雪崩」。
以上就是應用服務雪崩的場景以及技術方案總結。
什麼是快取雪崩？伺服器雪崩的場景與解決方案
雪崩問題 分布式系統都存在這樣乙個問題，由於網路的不穩定性，決定了任何乙個服務的可用性都不是 100 的。當網路不穩定的時候，作為服務的提供者，自身可能會被拖死，導致服務呼叫者阻塞，最終可能引發雪崩連鎖效應。當快取伺服器重啟或者大量快取集中在某乙個時間段失效，這樣在失效的時候，也會給後端系統 比如d...
什麼是快取穿透 快取雪崩 快取擊穿
快取穿透是指查詢乙個一定不存在的資料時，由於在快取中沒有這個key，這時會到db中去查詢，可是db中也沒有這條資料，這時也無法寫入快取，這就造成了快取穿透，如果這時有人利用這個漏洞頻繁攻擊應用，db就可能掛掉了 解決方案 可以把key存入快取中,value設定為空，過期時間最多不超過5分鐘 快取雪崩...
什麼是redis快取穿透，快取雪崩，快取擊穿
一.快取穿透 快取穿透是指查詢資料庫中一定不存在的資料，我們正常的操作流程，在查詢資料庫前，先去查詢快取，如果key不存在或者key過期失效，再去查詢資料庫，並把查詢到的物件放到快取中，如果查詢到的資料為null，不新增快取。流程 二.快取雪崩 快取雪崩可以理解為在某個時間段，快取集中過期，然後這段...