為什麼多級緩存
緩存的引入是現在大部分系統所必須考慮的
- redis 作為常用中間件，雖然我們一般業務系統(畢竟業務量有限)不會遇到如下圖 在随着 data-size 的增大和資料結構的複雜的造成性能下降，但網絡 IO 消耗會成為整個調用鍊路中不可忽視的部分。尤其在 微服務架構中，一次調用往往會涉及多次調用 例如pig oauth2.0 的 client 認證[1]
- Caffeine 來自未來的本地記憶體緩存,性能比如常見的記憶體緩存實作性能高出不少詳細對比[2]。
綜合所述：我們需要建構 L1 Caffeine JVM 級别緩存 ， L2 Redis 緩存。
設計難點
目前大部分應用緩存都是基于 Spring Cache 實作,基于注解(annotation)的緩存(cache)技術,存在的問題如下：
- Spring Cache 僅支援 單一的緩存來源，即：隻能選擇 Redis 實作或者 Caffeine 實作，并不能同時使用。
- 資料一緻性：各層緩存之間的資料一緻性問題，如應用層緩存和分布式緩存之前的資料一緻性問題。
- 緩存過期：Spring Cache 不支援主動的過期政策
業務流程
如何使用
- 引入依賴
com.pig4cloud.plugin multilevel-cache-spring-boot-starter 0.0.1
- 開啟緩存支援
@EnableCachingpublic class App { public static void main(String[] args) { SpringApplication.run(App.class, args); }}
- 目标接口聲明 Spring Cache 注解
@Cacheable(value = "get",key = "#key")@GetMapping("/get")public String get(String key){ return "success";}
性能比較
為保證性能 redis 在 127.0.0.1 環路安裝
- OS: macOS Mojave
- CPU: 2.3 GHz Intel Core i5
- RAM: 8 GB 2133 MHz LPDDR3
- JVM: corretto_11.jdk
代碼原理
- 自定義 CacheManager 多級緩存實作
public class RedisCaffeineCacheManager implements CacheManager { @Override public Cache getCache(String name) { Cache cache = cacheMap.get(name); if (cache != null) { return cache; } cache = new RedisCaffeineCache(name, stringKeyRedisTemplate, caffeineCache(), cacheConfigProperties); Cache oldCache = cacheMap.putIfAbsent(name, cache); log.debug("create cache instance, the cache name is : {}", name); return oldCache == null ? cache : oldCache; }}
- 多級讀取、過期政策實作
public class RedisCaffeineCache extends AbstractValueAdaptingCache { protected Object lookup(Object key) { Object cacheKey = getKey(key); // 1. 先調用 caffeine 查詢是否存在指定的值 Object value = caffeineCache.getIfPresent(key); if (value != null) { log.debug("get cache from caffeine, the key is : {}", cacheKey); return value; } // 2. 調用 redis 查詢在指定的值 value = stringKeyRedisTemplate.opsForValue().get(cacheKey); if (value != null) { log.debug("get cache from redis and put in caffeine, the key is : {}", cacheKey); caffeineCache.put(key, value); } return value; }}
- 過期政策，所有更新操作都基于 redis pub/sub 消息機制更新
public class RedisCaffeineCache extends AbstractValueAdaptingCache { @Override public void put(Object key, Object value) { push(new CacheMessage(this.name, key)); } @Override public ValueWrapper putIfAbsent(Object key, Object value) { push(new CacheMessage(this.name, key)); } @Override public void evict(Object key) { push(new CacheMessage(this.name, key)); } @Override public void clear() { push(new CacheMessage(this.name, null)); } private void push(CacheMessage message) { stringKeyRedisTemplate.convertAndSend(topic, message); }}
- MessageListener 删除指定 Caffeine 的指定值
public class CacheMessageListener implements MessageListener { private final RedisTemplate redisTemplate; private final RedisCaffeineCacheManager redisCaffeineCacheManager; @Override public void onMessage(Message message, byte[] pattern) { CacheMessage cacheMessage = (CacheMessage) redisTemplate.getValueSerializer().deserialize(message.getBody()); cacheMessage.getCacheName(), cacheMessage.getKey()); redisCaffeineCacheManager.clearLocal(cacheMessage.getCacheName(), cacheMessage.getKey()); }}