天天看點

緩存穿透與緩存雪崩

一般的緩存系統,都是按照key去緩存查詢,如果不存在對應的value,就應該去後端系統查找(比如DB)。如果key對應的value是一定不存在的,并且對該key并發請求量很大,就會對後端系統造成很大的壓力。這就叫做緩存穿透。

1:對查詢結果為空的情況也進行緩存,緩存時間設定短一點,或者該key對應的資料insert了之後清理緩存。

2:對一定不存在的key進行過濾。可以把所有的可能存在的key放到一個大的Bitmap中,查詢時通過該bitmap過濾。【感覺應該用的不多吧】

當緩存伺服器重新開機或者大量緩存集中在某一個時間段失效,這樣在失效的時候,也會給後端系統(比如DB)帶來很大壓力。

1:在緩存失效後,通過加鎖或者隊列來控制讀資料庫寫緩存的線程數量。比如對某個key隻允許一個線程查詢資料和寫緩存,其他線程等待。

2:不同的key,設定不同的過期時間,讓緩存失效的時間點盡量均勻。

3:做二級緩存,A1為原始緩存,A2為拷貝緩存,A1失效時,可以通路A2,A1緩存失效時間設定為短期,A2設定為長期(此點為補充)

1:緩存系統與底層資料的一緻性。這點在底層系統是“可讀可寫”時,寫得尤為重要 

2:有繼承關系的緩存之間的一緻性。為了盡量提高緩存命中率,緩存也是分層:全局緩存,二級緩存。他們是存在繼承關系的。全局緩存可以有二級緩存來組成。 

3:多個緩存副本之間的一緻性。為了保證系統的高可用性,緩存系統背後往往會接兩套存儲系統(如memcache,redis等)

上面有講述。

緩存淘汰的政策有兩種: (1) 定時去清理過期的緩存。 (2)當有使用者請求過來時,再判斷這個請求所用到的緩存是否過期,過期的話就去底層系統得到新資料并更新緩存。 

兩者各有優劣,第一種的缺點是維護大量緩存的key是比較麻煩的,第二種的缺點就是每次使用者請求過來都要判斷緩存失效,邏輯相對比較複雜,具體用哪種方案,大家可以根據自己的應用場景來權衡。

1. 預估失效時間 2. 版本号(必須單調遞增,時間戳是最好的選擇)3. 提供手動清理緩存的接口。

繼續閱讀