RabbitMQ系列(三):work queue

上篇讲过简单的hello消息,这篇我们将实现一个可以在多个Consumer上发送持久化消息的work queue。

work queue又称为task queue,其主要作用是避免立即执行资源密集型任务,而不必等待完成。相反的,我们可以安排后续完成的任务。我们将任务封装成消息,并将其发送到队列。在后台运行的work进程将弹出任务并最终执行作业,当你运行多个worker时,他们之间还能分担处理任务。

worker:相当于一个Consumer

work queue在某些web应用程序中特别有用,如在短时间HTTP请求窗口中无法处理的复杂任务。

work queue

在这个样例中,由于不是真正的业务场景,所以不能模拟标准的复杂业务,所以我们用time.sleep函数来模拟时间的消耗,我们统计出一个string中"."的个数,用它来模式程序处理业务消耗的时间,每个"."消耗1s。如:“初级赛亚人...”,消耗3s

对于send.go,稍作修改,以允许程序可以从命令行发送任意消息,该消息将被发送至work queue

receive.go也做部分修改,以实现模拟复杂任务的处理耗时操作

现在重新build两个工程,然后在命令端运行:

Round-robin dispatching

使用任务队列的优点之一是能够轻松地并行工作。 如果我们正在建立一个积压的工作,我们可以添加更多的worker程序,这样可以很容易地扩展。

如果我们同时运行两个consumer从一个queue中获取消息,它们会怎样工作呢?来看看它们的运行机制。

看下运行结果:

producer

Consumer1

Consumer2

Message acknowledgment

完成一个任务会消耗一定的时间,考虑一个问题,如果一个consumer开始了一个长时任务,在这个任务完成一部分还未完全完成时,这个consumer就挂掉了,那这个消息就是没处理完成。在目前我们的代码中,rabbitMQ分发一个message到consumer中,就会立即标记这个消息已完成并将它从queue中删除掉,在这种情况下,如果一个worker没处理完一个message就挂掉了那么这个消息将会丢失。

但是我们并不想丢失任何消息,可能每一条都是非常重要的;如果一个worker在处理一个message过程中挂掉了,那么我们更希望这个message会被分发到下一个worker中,而不是因此丢失。

为了保证任何的message永远不会丢失,rabbitMQ支持message acknowledgments。一个Ack(nowledgement)信号将由consumer返回给rabbitMQ,告诉它该消息已被接收并且完成处理,rabbitMQ收到这个ack之后将会从queue中删除该message。

如果一个consumer挂掉(channel关闭,connection关闭,或者tcp连接断开)导致未发送Ack,那么rabbitMQ会知道这个消息未被完全处理并且会重新发送它,如果这是正巧有其他consumer在线,rabbitMQ会迅速的将这个未处理的message重新分发给其他consumer,这样就可以保证没有message会丢失。

Message acknowledgments默认是关闭的;打开ack消息确认机制需要将它设置为false(//auto-ack选项),此后调用msg.Ack(false),worker会发送正确的ack消息到rabbitMQ。


这样就能保证在worker正在处理message时,即使使用ctrl+c,message也不会被丢失。

注:忘记返回Ack是很常见的错误,但是后果确实很严重;当客户端退出时消息将会被重新发送(可能看起来像随机发送),但是rabbitMQ会消耗越来越多的内存,因为它无法释放unacked message。为了调试中这种错误,你可以使用rabbitmqctl打印message_unacknowledged字段:

sudo rabbitmqctl list_queues name messages_ready messages_unacknowledged

windows下用:rabbitmqctl.bat list_queues name messages_ready messages_unacknowledged

Message durability

我们已经知道如何保证消息在发送至consumer的处理过程不丢失,但是当rabbitMQ server挂掉时,消息还是会丢失。为了保证queue和message不会在RabbitMQ server挂掉时造成数据丢失,我们需要将queue和message持久化。

首先,确保queue是durable(持久化的)。

这样就保证了在RabbitMQ重启情况下queue不会丢失,现在需要将message标记为持久性的,在amqp.Publishing中使用amqp.Persistent选项

注:将消息标记为amqp.Persistent并不能解决消息绝不会被丢失的情况。它只是告诉RabbitMQ需要将该消息存储至硬盘,但是在存储过程中有一段存储时间,如果这段时间rabbitMQ Server发生故障,那么这个消息将会造成丢失,所以RabbitMQ不会为每个消息做fsync(2)——仅仅存入cache中,并不会真正写入硬盘。这个持久化策略可能并不够完美,但是它足以满足你的大多数需求。如果你需要足够完美的持久化策略以保证消息绝不会被丢失,可以参考publisher confirms

Fair dispatch

你肯能注意到目前RabbitMQ的message分发策略(默认round-robin)并不是我们所期望的。比如,有两个worker,当所有的奇数号的message很重,偶数号的message很轻;在round-robin下分发消息时,一个worker会拿到所有奇数号的消息,另一个拿到所有偶数号的消息,这时一个worker就会非常忙碌而另一个则会闲着无所事事。因为RabbitMQ不知道这些事,任然不断的给workers分发消息。

发生这种情况是因为当一个消息进入queue时,RabbitMQ只负责将它分发到consumer,而不去查看这个consumer的unacknowledged messages的数量,而只是负责将第n个消息分发给第n(求余之后的n)个consumer。


为了解决这种情况我们需要将prefetch的值设置为1。告诉RabbitMQ在同一时间给一个worker分发的message不超过1个。换言之,在一个worker处理完一个message并发送ack之前,别再给他分发任何message。这样,这个消息就会被分发到下一个worker进行处理。

receive.go

注:如果所有的worker都很忙,此时queue可能被填充满,你需要注意的是增加更多的worker,或者其他的策略。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容

  • 来源 RabbitMQ是用Erlang实现的一个高并发高可靠AMQP消息队列服务器。支持消息的持久化、事务、拥塞控...
    jiangmo阅读 10,266评论 2 34
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,100评论 18 139
  • 什么叫消息队列 消息(Message)是指在应用间传送的数据。消息可以非常简单,比如只包含文本字符串,也可以更复杂...
    lijun_m阅读 1,257评论 0 1
  • 1. 历史 RabbitMQ是一个由erlang开发的AMQP(Advanced Message Queue )的...
    高广超阅读 6,068评论 3 51
  • 此生,我把思念刻上你的名字,刻入骨髓,爱上你是我此生的唯一,从此与我相依相伴,不离不弃;你的温柔,你的体贴,沁满了...
    凯罗阅读 362评论 0 1