Spring Cloud Gatway內置的 RequestRateLimiterGatewayFilterFactory 提供限流的能力,基於令牌桶算法實現。目前,它內置的 RedisRateLimiter ,依賴Redis存儲限流配置,以及統計數據。當然你也可以實現自己的RateLimiter,只需實現 org.springframework.cloud.gateway.filter.ratelimit.RateLimiter 接口,或者繼承 org.springframework.cloud.gateway.filter.ratelimit.AbstractRateLimiter 。
漏桶算法:
想象有一個水桶,水桶以一定的速度出水(以一定速率消費請求),當水流速度過大水會溢出(訪問速率超過響應速率,就直接拒絕)。
漏桶算法的兩個變量:
•水桶漏洞的大小:rate
•最多可以存多少的水:burst
令牌桶算法:
系統按照恆定間隔向水桶裡加入令牌(Token),如果桶滿了的話,就不加了。每個請求來的時候,會拿走1個令牌,如果沒有令牌可拿,那麼就拒絕服務。
TIPS
•Redis Rate Limiter的實現基於這篇文章: Stripe[1]
•Spring官方引用的令牌桶算法文章: Token Bucket Algorithm[2] ,有興趣可以看看。
寫代碼
1 加依賴:
org.springframework.boot spring-boot-starter-data-redis-reactive
2 寫配置:
spring: cloud: gateway: routes: - id: after_route uri: lb://user-center predicates: - TimeBetween=上午0:00,下午11:59 filters: - AddRequestHeader=X-Request-Foo, Bar - name: RequestRateLimiter args: # 令牌桶每秒填充平均速率 redis-rate-limiter.replenishRate: 1 # 令牌桶的上限 redis-rate-limiter.burstCapacity: 2 # 使用SpEL表達式從Spring容器中獲取Bean對象 key-resolver: "#{@pathKeyResolver}" redis: host: 127.0.0.1 port: 6379
3 寫代碼:按照X限流,就寫一個針對X的KeyResolver。
@Configuration public class Raonfiguration { /** * 按照Path限流 * * @return key */ @Bean public KeyResolver pathKeyResolver() { return exchange -> Mono.just( exchange.getRequest() .getPath() .toString() ); } }
4 這樣,限流規則即可作用在路徑上。
例如: # 訪問:http://${GATEWAY_URL}/users/1,對於這個路徑,它的redis-rate-limiter.replenishRate = 1,redis-rate-limiter.burstCapacity = 2; # 訪問:http://${GATEWAY_URL}/shares/1,對這個路徑,它的redis-rate-limiter.replenishRate = 1,redis-rate-limiter.burstCapacity = 2;
測試
持續高速訪問某個路徑,速度過快時,返回 HTTP ERROR 429 。
拓展
你也可以實現針對用戶的限流:
@Bean public KeyResolver userKeyResolver() { return exchange -> Mono.just(exchange.getRequest().getQueryParams().getFirst("user")); }
針對來源IP的限流:
@Bean public KeyResolver ipKeyResolver() { return exchange -> Mono.just( exchange.getRequest() .getHeaders() .getFirst("X-Forwarded-For") ); }
乾貨分享
最近將個人學習筆記整理成冊,使用PDF分享。關注我,回覆如下代碼,即可獲得百度盤地址,無套路領取!
•001:《Java併發與高併發解決方案》學習筆記;
•002:《深入JVM內核——原理、診斷與優化》學習筆記;
•003:《Java面試寶典》
•004:《Docker開源書》
•005:《Kubernetes開源書》
•006:《DDD速成(領域驅動設計速成)》
References
[1] Stripe: https://stripe.com/blog/rate-limiters
[2] Token Bucket Algorithm: https://en.wikipedia.org/wiki/Token_bucket
關鍵字: artifactId Token 限流