Redis键空间通知(Keyspace Notifications)

Redis键空间通知(Keyspace Notifications)

Redis Keyspace Notifications
https://redis.io/topics/notifications

Redis 是一个键值对数据库服务器,服务器中每个数据库都由 redisDB 结构表示(默认16个库)。其中,redisDB 结构的 dict 字典保存了数据库中所有的键值对,这个字典被称为键空间(key space)。
而16个库,独立在各自的键空间(key space)中。

键空间(key space)操作

假设对0号库执行 set、get、del等命令,其实都是通过对键空间字典进行操作来实现的。

除此之外,还有:
清空整个数据库的 flushdb 命令;
随机返回数据库中某个键的 randomkey;
返回数据库键数量的 dbsize ;
还有 exists 、 rename 、 keys , 等等, 这些命令都是通过对键空间进行操作来实现的。

键空间通知(Keyspace Notifications)能做什么?

根据上面的描述,对Redis操作的命令,最后都是落在一个库中(0~15号库)执行;
比如:你在0号库执行的所有命令,都是在对应的键空间(key space)字典上发生数据变更

数据变更,发生在这个键空间(key space)时,Redis基于pub/sub发布订阅,能够对你感兴趣的事件进行通知。
而可监听的感兴趣事件,是什么呢?这个不着急,后面又详解,几乎所有Redis产生数据变更的命令,均可订阅。

Keyspace notifications 功能是Redis 2.8.0开始支持。
Keyspace notifications is a feature available since 2.8.0

以下内容翻译自 https://redis.io/topics/notifications


功能概览

键空间通知使得客户端可以通过订阅频道或模式, 来接收那些以某种方式改动了 Redis 数据集的事件。
以下是一些键空间通知发送的事件的例子:

  • 所有修改键的命令。
  • 所有接收到 LPUSH key value [value …] 命令的键。
  • 0 号数据库中所有已过期的键。

事件通过 Redis 的订阅与发布功能(pub/sub)来进行分发, 因此所有支持订阅与发布功能的客户端都可以在无须做任何修改的情况下, 直接使用键空间通知功能。

因为 Redis 目前的订阅与发布功能采取的是发送即忘(fire and forget)策略, 所以如果你的程序需要可靠事件通知(reliable notification of events), 那么目前的键空间通知可能并不适合你:当订阅事件的客户端断线时, 它会丢失所有在断线期间分发给它的事件。

事件的类型

对于每个修改数据库的操作,键空间通知都会发送两种不同类型的事件。

比如说,对 0 号数据库的键 mykey 执行 DEL key [key …] 命令时, 系统将分发两条消息, 相当于执行以下两个 PUBLISH channel message 命令:

PUBLISH __keyspace@0__:mykey del
PUBLISH __keyevent@0__:del mykey

订阅第一个频道 __keyspace@0__:mykey 可以接收 0 号数据库中所有修改键 mykey 的事件, 而订阅第二个频道 __keyevent@0__:del 则可以接收 0 号数据库中所有执行 del 命令的键。

keyspace 为前缀的频道被称为键空间通知(key-space notification), 而以 keyevent 为前缀的频道则被称为键事件通知(key-event notification)。

del mykey 命令执行时:

  • 键空间频道的订阅者将接收到被执行的事件的名字,在这个例子中,就是 del
  • 键事件频道的订阅者将接收到被执行事件的键的名字,在这个例子中,就是 mykey

配置

因为开启键空间通知功能需要消耗一些 CPU , 所以在默认配置下, 该功能处于关闭状态。

可以通过修改 redis.conf 文件, 或者直接使用 CONFIG SET 命令来开启或关闭键空间通知功能:

  • 当 notify-keyspace-events 选项的参数为空字符串时,功能关闭。
  • 另一方面,当参数不是空字符串时,功能开启。

notify-keyspace-events 的参数可以是以下字符的任意组合, 它指定了服务器该发送哪些类型的通知:

字符 发送的通知
K 键空间通知,所有通知以 __keyspace@<db>__ 为前缀
E 键事件通知,所有通知以 __keyevent@<db>__ 为前缀
g DEL 、 EXPIRE 、 RENAME 等类型无关的通用命令的通知
$ 字符串命令的通知
l 列表命令的通知
s 集合命令的通知
h 哈希命令的通知
z 有序集合命令的通知
x 过期事件:每当有过期键被删除时发送
e 驱逐(evict)事件:每当有键因为 maxmemory 政策而被删除时发送
A 参数 g$lshzxe 的别名,即all

输入的参数中至少要有一个 K 或者 E , 否则的话, 不管其余的参数是什么, 都不会有任何通知被分发。
举个例子, 如果只想订阅键空间中和列表相关的通知, 那么参数就应该设为 Kl , 诸如此类。
将参数设为字符串 "AKE" 表示发送所有类型的通知。

命令产生的通知

以下列表记录了不同命令所产生的不同通知:

  • DEL key [key …] 命令为每个被删除的键产生一个 del 通知。

  • RENAME key newkey 产生两个通知:为来源键(source key)产生一个 rename_from 通知,并为目标键(destination key)产生一个 rename_to 通知。

  • EXPIRE key seconds 和 EXPIREAT key timestamp 在键被正确设置过期时间时产生一个 expire 通知。当 EXPIREAT key timestamp 设置的时间已经过期,或者 EXPIRE key seconds 传入的时间为负数值时,键被删除,并产生一个 del 通知。

  • SORT key [BY pattern] [LIMIT offset count] [GET pattern [GET pattern …]] [ASC | DESC] [ALPHA] [STORE destination] 在命令带有 STORE 参数时产生一个 sortstore 事件。如果 STORE 指示的用于保存排序结果的键已经存在,那么程序还会发送一个 del 事件。

  • SET key value [EX seconds] [PX milliseconds] [NX|XX] 以及它的所有变种(SETEX key seconds value 、 SETNX key value 和 GETSET key value)都产生 set 通知。其中 SETEX key seconds value 还会产生 expire 通知。

  • MSET key value [key value …] 为每个键产生一个 set 通知。

  • SETRANGE key offset value 产生一个 setrange 通知。

  • INCR key 、 DECR key 、 INCRBY key increment 和 DECRBY key decrement 都产生 incrby 通知。

  • INCRBYFLOAT key increment 产生 incrbyfloat 通知。

  • APPEND key value 产生 append 通知。

  • LPUSH key value [value …] 和 LPUSHX key value 都产生单个 lpush 通知,即使有多个输入元素时,也是如此。

  • RPUSH key value [value …] 和 RPUSHX key value 都产生单个 rpush 通知,即使有多个输入元素时,也是如此。

  • RPOP key 产生 rpop 通知。如果被弹出的元素是列表的最后一个元素,那么还会产生一个 del 通知。

  • LPOP key 产生 lpop 通知。如果被弹出的元素是列表的最后一个元素,那么还会产生一个 del 通知。

  • LINSERT key BEFORE|AFTER pivot value 产生一个 linsert 通知。

  • LSET key index value 产生一个 lset 通知。

  • LTRIM key start stop 产生一个 ltrim 通知。如果 LTRIM key start stop 执行之后,列表键被清空,那么还会产生一个 del 通知。

  • RPOPLPUSH source destination 和 BRPOPLPUSH source destination timeout 产生一个 rpop 通知,以及一个 lpush 通知。两个命令都会保证 rpop 的通知在 lpush 的通知之前分发。如果从键弹出元素之后,被弹出的列表键被清空,那么还会产生一个 del 通知。

  • HSET hash field value 、 HSETNX hash field value 和 HMSET 都只产生一个 hset 通知。

  • HINCRBY 产生一个 hincrby 通知。

  • HINCRBYFLOAT 产生一个 hincrbyfloat 通知。

  • HDEL 产生一个 hdel 通知。如果执行 HDEL 之后,哈希键被清空,那么还会产生一个 del 通知。

  • SADD key member [member …] 产生一个 sadd 通知,即使有多个输入元素时,也是如此。

  • SREM key member [member …] 产生一个 srem 通知,如果执行 SREM key member [member …] 之后,集合键被清空,那么还会产生一个 del 通知。

  • SMOVE source destination member 为来源键(source key)产生一个 srem 通知,并为目标键(destination key)产生一个 sadd 事件。

  • SPOP key 产生一个 spop 事件。如果执行 SPOP key 之后,集合键被清空,那么还会产生一个 del 通知。

  • SINTERSTORE destination key [key …] 、 SUNIONSTORE destination key [key …] 和 SDIFFSTORE destination key [key …] 分别产生 sinterstore 、 sunionostore 和 sdiffstore 三种通知。如果用于保存结果的键已经存在,那么还会产生一个 del 通知。

  • ZINCRBY key increment member 产生一个 zincr 通知。(译注:非对称,请注意。)

  • ZADD key score member [[score member] [score member] …] 产生一个 zadd 通知,即使有多个输入元素时,也是如此。

  • ZREM key member [member …] 产生一个 zrem 通知,即使有多个输入元素时,也是如此。如果执行 ZREM key member [member …] 之后,有序集合键被清空,那么还会产生一个 del 通知。

  • ZREMRANGEBYSCORE key min max 产生一个 zrembyscore 通知。(译注:非对称,请注意。)如果用于保存结果的键已经存在,那么还会产生一个 del 通知。

  • ZREMRANGEBYRANK key start stop 产生一个 zrembyrank 通知。(译注:非对称,请注意。)如果用于保存结果的键已经存在,那么还会产生一个 del 通知。

  • ZINTERSTORE destination numkeys key [key …] [WEIGHTS weight [weight …]] [AGGREGATE SUM|MIN|MAX] 和 ZUNIONSTORE destination numkeys key [key …] [WEIGHTS weight [weight …]] [AGGREGATE SUM|MIN|MAX] 分别产生 zinterstore 和 zunionstore 两种通知。如果用于保存结果的键已经存在,那么还会产生一个 del 通知。

每当一个键因为过期而被删除时,产生一个 expired 通知。
每当一个键因为 maxmemory 政策而被删除以回收内存时,产生一个 evicted 通知。

Note
所有命令都只在键真的被改动了之后,才会产生通知。
比如说,当 SREM key member [member …] 试图删除不存在于集合的元素时,删除操作会执行失败,因为没有真正的改动键,所以这一操作不会发送通知。

如果对命令所产生的通知有疑问, 最好还是使用以下命令, 自己来验证一下:

$ redis-cli config set notify-keyspace-events KEA
$ redis-cli --csv psubscribe '__key*__:*'
Reading messages... (press Ctrl-C to quit)
"psubscribe","__key*__:*",1

然后, 只要在其他终端里用 Redis 客户端发送命令, 就可以看到产生的通知了:

"pmessage","__key*__:*","__keyspace@0__:foo","set"
"pmessage","__key*__:*","__keyevent@0__:set","foo"
...

过期通知的发送时间

Redis 使用以下两种方式删除过期的键:

  • 当一个键被访问时,程序会对这个键进行检查,如果键已经过期,那么该键将被删除。
  • 底层系统会在后台渐进地查找并删除那些过期的键,从而处理那些已经过期、但是不会被访问到的键。

当过期键被以上两个程序的任意一个发现、 并且将键从数据库中删除时, Redis 会产生一个 expired 通知。

Redis 并不保证生存时间(TTL)变为 0 的键会立即被删除:如果程序没有访问这个过期键, 或者带有生存时间的键非常多的话, 那么在键的生存时间变为 0 , 直到键真正被删除这中间, 可能会有一段比较显著的时间间隔。

因此, Redis 产生 expired 通知的时间为过期键被删除的时候, 而不是键的生存时间TTL变为 0 的时候。


利用 Keyspace Notifications 实现延时订单

订单系统,生成订单后一定时间内未支付,订单会自动关闭。使用数据库轮询的方式,太影响效率。

而今天,利用Redis Keyspace Notifications事件通知功能,通过监听Redis键值对过期事件、来实现订单自动关闭。

实现步骤

1、开启Redis的 notify-keyspace-events 功能
redis.conf配置文件中,添加notify-keyspace-events Ex;
E是键空间通知, x代表过期事件。
2、监听程序:接收键空间(key space)事件
推荐使用spring-data-redis

public class ExpiredKeyNotification implements MessageListener {
    @Override
    public void onMessage(Message message, byte[] bytes) { 
        byte[] body = message.getBody();// 请使用valueSerializer
        byte[] channel = message.getChannel();
        //设置监听频道
        String topic = new String(channel);
        //key
        String itemValue = new String(body);
        System.out.println("频道topic:"+topic);
        System.out.println("过期的键值对的K:"+itemValue);
   }
}

3、配置RedisMessageListenerContainer,指定要监听的库

    <!-- 将监听者类 放入Spring容器 -->
    <bean id="expiredKeyNotification" class="org.springframework.data.redis.listener.adapter.MessageListenerAdapter">
        <constructor-arg>
            <bean class="com.xxx.ExpiredKeyNotification"/>
        </constructor-arg>
    </bean>

    <!-- 配置监听者容器 -->
    <bean id="redisContainer" class="org.springframework.data.redis.listener.RedisMessageListenerContainer">
        <property name="connectionFactory" ref="redisConnectionFactory"/>
        <property name="expiredKeyNotification">
            <map>
                <entry key-ref="messageListener">
                    <bean class="org.springframework.data.redis.listener.ChannelTopic">
                        <constructor-arg value="__keyevent@0__:expired"/>
                    </bean>
                </entry>
            </map>
        </property>
    </bean>

配置的是监听的频道,格式为固定,Redis有16个库,配置中0代表监听第0个库,如果要监听所有库,可将0改为*,星号。
keyevent代表监听的事件类型,expired表示,监听的时间为过期事件,也就是当第0个库中如果有KV过期,那么,监听者类将接受到消息。注意,配置中有两处出现了下划线,都是两个下划线 __。

到这里,配置已经完成;启动项目后进行测试。打开Redis客户端,存放KV并设置过期时间,如set testKey testValue Ex 5。存放一个键值对,过期时间为5秒,那么5秒后监听者类就会收到消息。

http://redisdoc.com/topic/notification.html

本文首发于公众号 架构道与术(ToBeArchitecturer),欢迎关注、学习更多干货~


推荐阅读更多精彩内容