Sentinel之滑动时间窗口设计(二)

一、回顾

上一篇Sentinel之滑动时间窗口设计(一) 主要介绍了Sentinel的统计数据的类结构及调用过程,并且介绍了滑动时间窗口的调用过程。

本文将会深入学习sentinel的滑动窗口,以及其中的原理等。

二、什么是滑动窗口算法

固定窗口

固定窗口就像是滑动窗口的一个特例,固定窗口是大小固定且不能随着时间而变化的。

固定窗口

在限流算法里:使用固定窗口算法是一种暴力的方式,可以通过限制某个API在在一个时间片内访问的次数;

滑动窗口

滑动窗口将固定窗口再等分为多个小的窗口。

滑动窗口

滑动窗口可以通过更细粒度对数据进行统计。
在限流算法里:假设我们将1s划分为4个窗口,则每个窗口对应250ms。假设恶意用户还是在上一秒的最后一刻和下一秒的第一刻冲击服务,按照滑动窗口的原理,此时统计上一秒的最后750毫秒和下一秒的前250毫秒,这种方式能够判断出用户的访问依旧超过了1s的访问数量,因此依然会阻拦用户的访问。

滑动窗口具有以下特点:

1、每个小窗口的大小可以均等,dubbo的默认负载均衡算法random就是通过滑动窗口设计的,可以调整每个每个窗口的大小,进行负载。
2、滑动窗口的个数及大小可以根据实际应用进行控制

滑动时间窗口

滑动时间窗口就是把一段时间片分为多个窗口,然后计算对应的时间落在那个窗口上,来对数据统计;如上图其实就是即时的滑动时间窗口,随着时间流失,最开始的窗口将会失效,但是也会生成新的窗口;sentinel的就是通过这个原理来实时的限流数据统计。

关于滑动窗口,这里介绍还是比较简单,主要是大致的介绍滑动的原理以及时间窗口的设计;其实关于滑动窗口在我们学习的计算机网络中也涉及到。

三、sentinel构建滑动时间窗口

上文介绍过通过调用LeadArray的currentWindow方法返回时间窗口,下面来仔细分析。

    public WindowWrap<T> currentWindow() {
        //参数是当前时间
        return currentWindow(TimeUtil.currentTimeMillis());
    }

   public WindowWrap<T> currentWindow(long time) {

        // 1、根据当前时间,算出该时间的timeId,timeId就是在整个时间轴的位置
        long timeId = time / windowLengthInMs;
        // 2、据timeId算出当前时间窗口在采样窗口区间中的索引idx
        int idx = (int)(timeId % array.length());

        // 3、根据当前时间算出当前窗口应该对应的窗口开始时间time,以毫秒为单位
        time = time - time % windowLengthInMs;

        //4、循环判断直到获取到一个当前时间窗口
        while (true) {
            //5、根据索引idx,在采样窗口数组中取得一个时间窗口old
            WindowWrap<T> old = array.get(idx);

            //6、如果old为空,说明该时间窗口还没有创建、则创建一个时间窗口,并将它插入到array的第idx个位置
            if (old == null) {
                //创建时间窗口,参数:窗口大小,开始时间,桶(保存统计值)
                WindowWrap<T> window = new WindowWrap<T>(windowLengthInMs, time, newEmptyBucket());
                 // 通过CAS将新窗口设置到数组中去
                if (array.compareAndSet(idx, null, window)) {
                    return window;
                } else {
                    Thread.yield();
                }
              //7、如果当前窗口的开始时间time与old的开始时间相等,那么说明old就是当前时间窗口,直接返回old
            } else if (time == old.windowStart()) { 
                return old;
            } 
              //8、如果当前窗口的开始时间time大于old的开始时间,则说明old窗口已经过时了,将old的开始时间更新为最新值:time,下一个循环中在第7步返回
            else if (time > old.windowStart()) {
                if (updateLock.tryLock()) {
                    try {
                        // if (old is deprecated) then [LOCK] resetTo currentTime.
                        // 重置窗口,重新设置窗口的开始时间,以及把统计值重置
                        return resetWindowTo(old, time);
                    } finally {
                        updateLock.unlock();
                    }
                } else {
                    Thread.yield();
                }
            //这个条件不可能存在,time是当前的时间
            } else if (time < old.windowStart()) {
                // Cannot go through here.
                return new WindowWrap<T>(windowLengthInMs, time, newEmptyBucket());
            }
        }
    }

以上就是创建时间窗口的核心的代码了,解释都在代码上面。分析后可以发现:获取时间窗口原理就是找到当前时间所在的窗口,若窗口不存在则创建,若窗口过时了则重置。

窗口分析

通过分析rollingCounterInSecond的监控指标来分析时间窗口,

  private transient volatile Metric rollingCounterInSecond = new ArrayMetric(1000 / SampleCountProperty.SAMPLE_COUNT,
        IntervalProperty.INTERVAL);

在StatisticNode类中,rollingCounterInSecond创建可以发现windowLengthInMs:时间窗口是500ms,
intervalInSec:时间区间是1s。所以在时间区间是1s内最多只有两个时间窗口,每个窗口长度是500ms;
时间窗口的创建过程如图:

滑动窗口

1、现在假设当前时间是2018-12-15 14:30:00,对应毫秒是:1544855400000ms,所以timeId = 1544855400000 / 500为:3089710800,对应的idx为0,窗口开始时间time为 time - time % windowLengthInMs还是1544855400000;
2、初始化的时候old为空,所以创建了一个window;
3、倘若过了300ms后,time为1544855400700,这个时候old就是先前窗口了,就会直接返回old窗口:currentWindow;
4、时间继续往前走,又过了400ms后,如图:

滑动窗口

5、这个时候获取到的timeId为3089710801,对应的idx=为3089710801%2为1,窗口开始时间time为 1544855400500;
6、由于是新的时间窗口,old为空,则重新创建。
7、倘若过了400ms,time为1544855401100:现在得到idx时0,这个时候old是有值的,但是old的windowStart小于time的StartTime,所以需要重置idx0窗口。
8、以此类推:随着时间的流逝,时间窗口也在变化,但是窗口只会在初始化的过程中创建两次,后面若窗口过期了则是重置。

四、我的总结

A、大致介绍滑动窗口算法,滑动窗口算法经常用在限流场景中,常用的限流算法还有:漏桶法,令牌法。
B、介绍了滑动时间窗口的创建过程,如下:

  • 1、根据当前时间,算出该时间的timeId,timeId就是在整个时间轴的位置
  • 2、据timeId算出当前时间窗口在采样窗口区间中的索引idx
  • 3、根据当前时间算出当前窗口应该对应的窗口开始时间time,以毫秒为单位
  • 4、循环判断直到获取到一个当前时间窗口
  • 5、根据索引idx,在采样窗口数组中取得一个时间窗口old

如果old为空,说明该时间窗口还没有创建、则创建一个时间窗口,并将它插入到array的第idx个位置
如果当前窗口的开始时间time与old的开始时间相等,那么说明old就是当前时间窗口,直接返回old
如果当前窗口的开始时间time大于old的开始时间,则说明old窗口已经过时了,将old的开始时间更新为最新值:time;

C:滑动窗口只会在初始化的过程中创建,后续只会重置


以上内容,若有不当之处,望指正

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 142,680评论 1 300
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 61,177评论 1 256
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 94,249评论 0 212
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 40,981评论 0 175
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 48,746评论 1 255
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 38,763评论 1 176
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 30,362评论 2 268
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,151评论 0 165
  • 想象着我的养父在大火中拼命挣扎,窒息,最后皮肤化为焦炭。我心中就已经是抑制不住地欢快,这就叫做以其人之道,还治其人...
    爱写小说的胖达阅读 28,964评论 6 229
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 32,501评论 0 213
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,285评论 2 215
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 30,614评论 1 229
  • 白月光回国,霸总把我这个替身辞退。还一脸阴沉的警告我。[不要出现在思思面前, 不然我有一百种方法让你生不如死。]我...
    爱写小说的胖达阅读 24,232评论 0 31
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,117评论 2 213
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 31,498评论 3 204
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,615评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,012评论 0 167
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 33,512评论 2 230
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 33,594评论 2 231

推荐阅读更多精彩内容