基于Dynomite的分布式延迟队列

1字数 1274阅读 1087

最近看了Dyno-queues分布式延迟队列的源码,发现了一些不错的技巧,而本文是对Dyno-queues架构精华的总结。
本文是根据 https://medium.com/netflix-techblog/distributed-delay-queues-based-on-dynomite-6b31eca37fbc 翻译而来,如果有不准之处请大家多包含。

在Netflix的平台上运行着许多的业务流程,这些流程的任务是通过异步编排进行驱动,现在我们要实现一个分布式延迟队列,这个延迟队列具有如下特点:

  • 分布式
  • 不用外部的锁机制
  • 高并发
  • 至少一次语义交付
  • 不遵循严格的FIFO
  • 延迟队列(消息在将来某个时间之前不会从队列中取出)
  • 优先级

一、使用Dynomite和Redis构建队列

Dynomite是一种通用的实现,可以与许多不同的key-value存储引擎一起使用。目前它提供了对Redis序列化协议(RESP)和Memcached写协议的支持。我们选择Dynomite,是因为其具有性能,多数据中心复制和高可用性的特点。此外,Dynomite提供分片和可插拔的数据存储引擎,允许我们在数据需求增加垂直和水平扩展。

1、为什么选择Redis?

我们选择Redis作为构建队列的存储引擎:

  • Redis架构通过提供构建队列所需的数据结构很好地支持了队列设计,同时Redis的性能也非常优秀,具备低延迟的特性
  • Dynomite在Redis之上提供了高可用性、对等复制以及一致性等特性,用于构建分布式集群队列。

一个队列被存储为Redis的有序集合(ZADD和ZRANGE等操作),Redis使用分数对有序集合中的成员进行排序,当往队列中存储数据时,根据优先级和超时时间计算分数。

2、使用Redis实现数据的push和pop

对于每个队列,维护三组Redis数据结构:

  • 包含队列元素和分数的有序集合
  • 包含消息内容的Hash集合,其中key为消息ID。
  • 包含客户端已经消费但尚未确认的消息有序集合,Un-ack集合。

PUSH

  • 根据消息超时(延迟队列)和优先级计算得分
  • 添加到队列的有序集合
  • 将Message对象到Hash集合中,key是messageId。

POP

  • 计算当前时间为最大分数。
  • 获取分数在0和最大分数之间的消息。
  • 将messageID添加到unack集合中,并从队列的有序集中删除这个messageID。
  • 如果上一步成功,则根据messageID从Redis集合中检索消息。

ACK

  • 从unack集合中删除messageID。
  • 从Message有效集合中删除messageID。
    客户端未进行确认的消息,会被再度推回到队列中(这是一个定时任务负责检测)。

3、可用分区和机架意识

我们的队列是在Dynomite的JAVA客户端Dyno之上建立的,Dyno为持久连接提供连接池,并且可以配置为拓扑感知,此外,Dyno为应用程序提供特定的本地机架(在AWS中,机架是一个区域,例如 us-east-1a、us-east-1b等),us-east-1a的客户端将连接到相同区域的Dynomite/Redis节点,除非该节点不可用,在这种情况下该客户端将进行故障转移。这个属性被用于通过区域划分队列。

分片
队列根据可用区域进行分片,将数据推送到队列时,通过轮训机制确定分片,这种机制可以确保所有分片的数据是平衡的,每个分片都代表Redis中的有序集合,有序集中的key是queueName和AVAILABILITY _ZONE的组合。

避免全局锁

image.png

  • 每个节点(上图中的N1...Nn)与可用性区域具有关联性,并且与该区域中的redis服务器进行通信。
  • Dynomite / Redis节点一次只能提供一个请求,Dynomite可以允许数千个并发连接,但是请求是由Redis中的单个线程处理,这确保了当发出两个并发调用从队列轮询元素时,是由Redis服务器顺序执行,从而避免任何本地或分布式锁。
  • 在发生故障转移的情况下,确保没有两个客户端连接从队列中获取相同的消息。

处理Un-ACK的消息
后台进程监视UNACK集合中的消息,这些消息在给定时间内未被客户端确认(每个队列可配置)。这些消息将移回到队列中。

Dyno-queues分布式延迟队列的github地址是:
https://github.com/Netflix/dyno-queues

推荐阅读更多精彩内容