RateLimiter 的底层实现是啥?
发布日期:2021-06-30 13:02:12 浏览次数:2 分类:技术文章

本文共 2297 字,大约阅读时间需要 7 分钟。

作者:温安适

来源:

前言

本文不是一个RateLimiter的详细分析,仅仅是概要分析。

令牌桶算法

一说到RateLimiter,必然要是说的令牌桶,它的大致逻辑如下

按图实现

令牌桶的图,网上到处可见,按图实现也非常简单,无非是定时添加令牌桶,并提供一个获取令牌的函数,博主实现了一遍代码如下:

import java.util.concurrent.*;public class MyRateLimiter {    //令牌桶    BlockingQueue
TOKEN_BUCKET=new LinkedBlockingDeque<>(5); public static void main(String[] args) { MyRateLimiter myRateLimiter=new MyRateLimiter(); myRateLimiter.addTokenFixedRate(); for(int i=0;i<10;i++){ myRateLimiter.acqurie(); System.out.println("第几次执行i:" + i + ",执行时间为:" + System.currentTimeMillis()); } } /** * 定时添加令牌 */ public void addTokenFixedRate(){ ScheduledExecutorService scheduledExecutorService= Executors.newSingleThreadScheduledExecutor(); scheduledExecutorService.scheduleAtFixedRate(()->{ boolean suc=TOKEN_BUCKET.offer(1); if(!suc){ System.out.println("令牌桶满了丢弃"); } },0,200,TimeUnit.MILLISECONDS); } public void acqurie(){ while (TOKEN_BUCKET.poll()==null){}; }}

测试结果如下,基本满足要求

RateLimiter概要实现

我一开始是按照自己实现的逻辑,去查看Guava的RateLimiter的源码的,结果发现RateLimiter根本没有集合充当桶,核心是记录了下一令牌产生的时间与现存令牌数,并动态更新它们。

概要逻辑图如下:

按照这个图看核心代码就比较容易了,摘录核心代码如下:

@CanIgnoreReturnValuepublic double acquire(int permits) {  long microsToWait = reserve(permits);  stopwatch.sleepMicrosUninterruptibly(microsToWait);  return 1.0 * microsToWait / SECONDS.toMicros(1L);}//Reserve 一路向下能查到如下代码  reserveEarliestAvailablefinal long reserveEarliestAvailable(int requiredPermits, long nowMicros) {    resync(nowMicros);    long returnValue = nextFreeTicketMicros;    // 现存令牌可以提供的令牌数    double storedPermitsToSpend = min(requiredPermits, this.storedPermits);    //需要刷新的令牌数    double freshPermits = requiredPermits - storedPermitsToSpend;    //等待时间=需要刷新的令牌数*固定间隔+存储许可等待时间    long waitMicros =        storedPermitsToWaitTime(this.storedPermits, storedPermitsToSpend)            + (long) (freshPermits * stableIntervalMicros);    //下次令牌生产时间=本次令牌生产时间+等待时间    this.nextFreeTicketMicros = LongMath.saturatedAdd(nextFreeTicketMicros, waitMicros);    this.storedPermits -= storedPermitsToSpend;    return returnValue;}

总结:RateLimiter根本没有集合充当桶,核心是记录了下一令牌产生的时间与现存令牌数,并动态更新它们。

近期热文推荐:

1.

2.

3.

4.

5.

觉得不错,别忘了随手点赞+转发哦!

转载地址:https://javastack.blog.csdn.net/article/details/117717398 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:如何加速 Nginx 的服务响应?
下一篇:Spring Boot 2.5 终于对数据源动刀了!

发表评论

最新留言

逛到本站,mark一下
[***.202.152.39]2024年04月18日 12时43分49秒