Spring Cloud Gateway 原生支援接口限流該怎麼玩

關于pig：

基于Spring Cloud、oAuth2.0開發基于Vue前後分離的開發平台，支援賬号、短信、SSO等多種登入，提供配套視訊開發教程。

關于 Spring Cloud Gateway

SpringCloudGateway是Spring官方基于Spring 5.0，Spring Boot 2.0和Project Reactor等技術開發的網關，Spring雲網關旨在提供一種簡單而有效的路由API的方法。Spring Cloud Gateway作為Spring Cloud生态系中的網關，目标是替代Netflix ZUUL，其不僅提供統一的路由方式，并且基于Filter鍊的方式提供了網關基本的功能，例如：安全，監控/埋點，和限流等。

zuul如何實作多元度限流請參考我的部落格

[Zuul：建構高可用網關之多元度限流]

開始Gateway 限流

POM 依賴

<!--spring cloud gateway依賴-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-gateway</artifactId>
</dependency>
<!--基于 reactive stream 的redis -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis-reactive</artifactId>
</dependency>           

配置按照請求IP 的限流

spring:
  cloud:
    gateway:
      routes:
      - id: requestratelimiter_route
        uri: lb://pigx-upms
        order: 10000
        predicates:
        - Path=/admin/**
        filters:
        - name: RequestRateLimiter
          args:
            redis-rate-limiter.replenishRate: 1  # 令牌桶的容積
            redis-rate-limiter.burstCapacity: 3  # 流速 每秒
            key-resolver: "#{@remoteAddrKeyResolver}" #SPEL表達式去的對應的bean
        - StripPrefix=1           

配置bean，多元度限流量的入口

/**
* 自定義限流标志的key，多個次元可以從這裡入手
* exchange對象中擷取服務ID、請求資訊，使用者資訊等
*/
@Bean
KeyResolver remoteAddrKeyResolver() {
    return exchange -> Mono.just(exchange.getRequest().getRemoteAddress().getHostName());
}           

OK 完成。

壓力測試

并發5個線程。

Redis 資料變化

我們使用redis的monitor 指令，實時檢視redis 的操作情況。

會發現在redis中會操作兩個key

• request_rate_limiter.{xxx}.timestamp
• request_rate_limiter.{xxx}.tokens

實作原理

Spring Cloud Gateway 預設實作 Redis限流，如果擴充隻需要實作ratelimter接口即可。

RedisRateLimter 的核心代碼，判斷是否取到令牌的實作，通過調用 redis的LUA 腳本。

public Mono<Response> isAllowed(String routeId, String id) {
    Config routeConfig = getConfig().getOrDefault(routeId, defaultConfig);
    int replenishRate = routeConfig.getReplenishRate();
    int burstCapacity = routeConfig.getBurstCapacity();

    try {
        List<String> keys = getKeys(id);
        returns unixtime in seconds.
        List<String> scriptArgs = Arrays.asList(replenishRate + "", burstCapacity + "",
                Instant.now().getEpochSecond() + "", "1");
        // 這裡是核心，執行redis 的LUA 腳本。
        Flux<List<Long>> flux =
        this.redisTemplate.execute(this.script, keys, scriptArgs);
        return flux.onErrorResume(throwable -> Flux.just(Arrays.asList(1L, -1L)))
                .reduce(new ArrayList<Long>(), (longs, l) -> {
                    longs.addAll(l);
                    return longs;
                }) .map(results -> {
                    boolean allowed = results.get(0) == 1L;
                    Long tokensLeft = results.get(1);

                    Response response = new Response(allowed, getHeaders(routeConfig, tokensLeft));

                    if (log.isDebugEnabled()) {
                        log.debug("response: " + response);
                    }
                    return response;
                });
    }
    catch (Exception e) {
        log.error("Error determining if user allowed from redis", e);
    }
    return Mono.just(new Response(true, getHeaders(routeConfig, -1L)));
}           

LUA 腳本