基本寫法快取雪崩全域性鎖,例項鎖字串鎖快取穿透再談快取雪崩總結
為了方便演示,這裡使用runtime.cache做快取容器,並定義個簡單操作類。如下:
public class cachehelper
public static void add(string cachekey, object obj, int cacheminute)
}
簡單讀取
:
public object getmembersignindays1()
快取雪崩
在專案中,有不少這樣寫法,這樣寫並沒有錯,但在併發量上來後就容易出問題。
快取雪崩是由於快取失效(過期),新快取未到期間。
這個中間時間內,所有請求都去查詢資料庫,而對資料庫cpu和記憶體造成巨大壓力,前端連線數不夠、查詢阻塞。
這個中間時間並沒有那麼短,比如sql查詢1秒,加上傳輸解析0.5秒。 就是說1.5秒內所有使用者查詢,都是直接查詢資料庫的。
碰到這種情況,使用最多的解決方案就是加鎖排隊。
public static object obj1 = new object();
public object getmembersignindays2()
lock (this)
return cachevalue;
}
第一種:lock (obj1) 是全域性鎖可以滿足,但要為每個函式都宣告乙個obj,不然在a、b函式都鎖obj1時,必然會讓其中乙個阻塞。
第二種:lock (this) 這個鎖當前例項,對其他例項無效,那這個鎖就沒什麼效果了,當然使用單例模式的物件可以鎖。
在當前例項中:a函式鎖當前例項,其他也鎖當前例項的函式的讀寫,也被阻塞,這種做法也不可取。
既然鎖物件不行,利用字串的特性,直接鎖快取的key呢
public object getmembersignindays3()
lock (lockkey)
return cachevalue;
}
第一種:lock (cachename) 有問題,因為字串也是共享的,會阻塞其他使用這個字串的操作行為。
因為字串被公共語言執行庫 (clr)暫留,這意味著整個程式中任何給定字串都只有乙個例項,所以才會用下面第二種方法。
第二種:lock (lockkey) 可以滿足。其目的就是為了保證鎖的粒度最小並且全域性唯一性,只鎖當前快取的查詢行為。
例子就是快取穿透,請求繞過快取直接查資料庫,這也是經常提的快取命中率問題。
public object getmembersignindays4()
if (cachevalue == null)
cachehelper.add(cachekey, cachevalue, cachetime);
}return cachevalue;
}
如果把查詢不到的空結果,也給快取起來,這樣下次同樣的請求就可以直接返回null了,即可以避免當查詢的值為空時引起的快取穿透。
可以單獨設定個快取區域儲存空值,對要查詢的key進行預先校驗,然後再放行給後面的正常快取處理邏輯。
前面不是用加鎖排隊方式就解決了嗎?其實加鎖排隊只是為了減輕資料庫的壓力,本質上並沒有提高系統吞吐量。
假設在高併發下,快取重建期間key是鎖著的,這是過來1000個請求999個都在阻塞的。導致的結果是使用者等待超時,這是非常不優化的體驗。
這種行為本質上是把多執行緒的web伺服器,在此時給變成單執行緒處理了,會導致大量的阻塞。對於系統資源也是一種浪費,因快取重建而阻塞的執行緒本可以處理更多請求的。
這裡提出一種解決方案是:
public object getmembersignindays5());}
return cachevalue;
}
從**中看出,我們多使用了乙個快取標記key,並使用雙檢鎖校驗保證後面邏輯不會多次執行。
快取標記key: 快取標記key只是乙個記錄實際key過期時間的標記,它的快取值可以是任意值,比如1。 它主要用來在實際key過期後,觸發通知另外的執行緒在後台去更新實際key的快取。
實際key: 它的過期時間會延長1倍,例:本來5分鐘,現在設定為10分鐘。 這樣做的目的是,當快取標記key過期後,實際快取還能以髒資料返回給呼叫端,直到另外的執行緒在後台更新完成後,才會返回新快取。
關於實際key的過期時間延長1倍,還是2、3倍都是可以的。只要大於正常快取過期時間,並且能保證在延長的時間內足夠拉取資料即可。
還乙個好處就是,如果突然db掛了,髒資料的存在可以保證前端系統不會拿不到資料。
這樣做後,就可以一定程度上提高系統吞吐量。
文中說的阻塞其他函式指的是,併發情況下鎖同一物件,比如乙個函式鎖a物件,另外的函式就必須等待a物件的鎖釋放後才能再次進鎖。
關於更新快取,可以單開乙個執行緒去專門跑快取更新,圖方便的話扔執行緒池裡面即可。
實際專案中,快取層框架的封裝往往要複雜的多,如果併發量比較小,這樣寫反而會增加**的複雜度,具體要根據實際情況來取捨。
令人又愛又恨的const
關於c的關鍵字 const的理解和用法 const在c中的用法很靈活 相信c 中也一樣 個人感覺對之既愛又恨,有時候感覺const很好用,同時又經 常會因為它的優點而犯錯,犯錯的原因除了粗心之外,另乙個更重要的,就是以前對const理解不到位。於是今天 自己寫成一篇小總結。如果是初學者,建議好好看一...
讓我又愛又恨的C
上大學是我一直夢想的,可當我知道我的專業是計算機的時候,我還是很失望的。一直以來我對計算機的了解並不深,我深知這對我來說不容易。可我也絕不是乙個輕言放棄的人。我嘗試著去慢慢學習。隨後就接觸到了讓我愛恨交加的c 剛接觸時對我來說很陌生也很好奇,當親手敲出那幾行 寫著 我來了 的時候,心情是格外的激動,...
既愛又恨的inline block
初出茅廬,第一天實習的我就被inline block坑了,在平時的練習中從未碰到這個坑,幸虧公司的乙個熱心的小夥伴指點,我才解決。也怪我學藝不精啦。好了,來說說我是怎麼被坑的吧。ok,模擬一下場景,怎麼調都不對,愚蠢的我居然沒有去想inline block的鍋。我們從圖中可以看到中間黃色方塊的底部是...