那些讓我們又愛又恨的快取寫法

2021-10-11 19:10:18 字數 2691 閱讀 5011

基本寫法快取雪崩全域性鎖,例項鎖字串鎖快取穿透再談快取雪崩總結

為了方便演示,這裡使用runtime.cache做快取容器,並定義個簡單操作類。如下:

public class cachehelper

public static void add(string cachekey, object obj, int cacheminute)

}

簡單讀取

public object getmembersignindays1()

快取雪崩

在專案中,有不少這樣寫法,這樣寫並沒有錯,但在併發量上來後就容易出問題。

快取雪崩是由於快取失效(過期),新快取未到期間。

這個中間時間內,所有請求都去查詢資料庫,而對資料庫cpu和記憶體造成巨大壓力,前端連線數不夠、查詢阻塞。

這個中間時間並沒有那麼短,比如sql查詢1秒,加上傳輸解析0.5秒。  就是說1.5秒內所有使用者查詢,都是直接查詢資料庫的。

碰到這種情況,使用最多的解決方案就是加鎖排隊。

public static object obj1 = new object();

public object getmembersignindays2()

lock (this)

return cachevalue;

}

第一種:lock (obj1)  是全域性鎖可以滿足,但要為每個函式都宣告乙個obj,不然在a、b函式都鎖obj1時,必然會讓其中乙個阻塞。

第二種:lock (this)  這個鎖當前例項,對其他例項無效,那這個鎖就沒什麼效果了,當然使用單例模式的物件可以鎖。

在當前例項中:a函式鎖當前例項,其他也鎖當前例項的函式的讀寫,也被阻塞,這種做法也不可取。

既然鎖物件不行,利用字串的特性,直接鎖快取的key呢

public object getmembersignindays3()

lock (lockkey)

return cachevalue;

}

第一種:lock (cachename)  有問題,因為字串也是共享的,會阻塞其他使用這個字串的操作行為。 

因為字串被公共語言執行庫 (clr)暫留,這意味著整個程式中任何給定字串都只有乙個例項,所以才會用下面第二種方法。

第二種:lock (lockkey)  可以滿足。其目的就是為了保證鎖的粒度最小並且全域性唯一性,只鎖當前快取的查詢行為。

例子就是快取穿透,請求繞過快取直接查資料庫,這也是經常提的快取命中率問題。

public object getmembersignindays4()

if (cachevalue == null)

cachehelper.add(cachekey, cachevalue, cachetime);

}return cachevalue;

}

如果把查詢不到的空結果,也給快取起來,這樣下次同樣的請求就可以直接返回null了,即可以避免當查詢的值為空時引起的快取穿透。

可以單獨設定個快取區域儲存空值,對要查詢的key進行預先校驗,然後再放行給後面的正常快取處理邏輯。

前面不是用加鎖排隊方式就解決了嗎?其實加鎖排隊只是為了減輕資料庫的壓力,本質上並沒有提高系統吞吐量。

假設在高併發下,快取重建期間key是鎖著的,這是過來1000個請求999個都在阻塞的。導致的結果是使用者等待超時,這是非常不優化的體驗。

這種行為本質上是把多執行緒的web伺服器,在此時給變成單執行緒處理了,會導致大量的阻塞。對於系統資源也是一種浪費,因快取重建而阻塞的執行緒本可以處理更多請求的。

這裡提出一種解決方案是:

public object getmembersignindays5());}

return cachevalue;

}

從**中看出,我們多使用了乙個快取標記key,並使用雙檢鎖校驗保證後面邏輯不會多次執行。

快取標記key: 快取標記key只是乙個記錄實際key過期時間的標記,它的快取值可以是任意值,比如1。 它主要用來在實際key過期後,觸發通知另外的執行緒在後台去更新實際key的快取。

實際key:  它的過期時間會延長1倍,例:本來5分鐘,現在設定為10分鐘。 這樣做的目的是,當快取標記key過期後,實際快取還能以髒資料返回給呼叫端,直到另外的執行緒在後台更新完成後,才會返回新快取。

關於實際key的過期時間延長1倍,還是2、3倍都是可以的。只要大於正常快取過期時間,並且能保證在延長的時間內足夠拉取資料即可。

還乙個好處就是,如果突然db掛了,髒資料的存在可以保證前端系統不會拿不到資料。

這樣做後,就可以一定程度上提高系統吞吐量。

文中說的阻塞其他函式指的是,併發情況下鎖同一物件,比如乙個函式鎖a物件,另外的函式就必須等待a物件的鎖釋放後才能再次進鎖。

關於更新快取,可以單開乙個執行緒去專門跑快取更新,圖方便的話扔執行緒池裡面即可。

實際專案中,快取層框架的封裝往往要複雜的多,如果併發量比較小,這樣寫反而會增加**的複雜度,具體要根據實際情況來取捨。    

令人又愛又恨的const

關於c的關鍵字 const的理解和用法 const在c中的用法很靈活 相信c 中也一樣 個人感覺對之既愛又恨,有時候感覺const很好用,同時又經 常會因為它的優點而犯錯,犯錯的原因除了粗心之外,另乙個更重要的,就是以前對const理解不到位。於是今天 自己寫成一篇小總結。如果是初學者,建議好好看一...

讓我又愛又恨的C

上大學是我一直夢想的,可當我知道我的專業是計算機的時候,我還是很失望的。一直以來我對計算機的了解並不深,我深知這對我來說不容易。可我也絕不是乙個輕言放棄的人。我嘗試著去慢慢學習。隨後就接觸到了讓我愛恨交加的c 剛接觸時對我來說很陌生也很好奇,當親手敲出那幾行 寫著 我來了 的時候,心情是格外的激動,...

既愛又恨的inline block

初出茅廬,第一天實習的我就被inline block坑了,在平時的練習中從未碰到這個坑,幸虧公司的乙個熱心的小夥伴指點,我才解決。也怪我學藝不精啦。好了,來說說我是怎麼被坑的吧。ok,模擬一下場景,怎麼調都不對,愚蠢的我居然沒有去想inline block的鍋。我們從圖中可以看到中間黃色方塊的底部是...