RabbitMQ 基础原理


消息中间件

目前主要的消息中间件软件有RabbitMQ、ActiveMQ、ZeroMQ和Apache Qpid,RabbitMQ是基于Erlang语言开发,ActiveMQ是基于Java开发,ZeroMQ是基于C++开发,Apache Qpid则有java和C++版本,消息中间件是一个在消息传输过程中保存消息的容器,然后消息中间件再将消息中继给目标即消费者使用,消息中间件的本质就是一个中间人,消息中间件的主要作用是根据目的提供路由并保证消息的可靠传递,如果发送消息是发现消费者不可用则消息中间件会保留改消息,直到可以成功传递为止(在超时期限之内)。

消息中间件的主要特点
  • 采用异步处理方式
    消息发送者可以发送一个消息而无需等待响应,其将消息发送一条虚拟的通道或者队列上,消息接受者订阅或者是监听该通道,一条消息可以发给一个或多个接受者,这些接收者无需对消息发送者做出回应,即整个发送和接收过程是异步处理的
  • 应用程序和应用程序调用关系为松耦合关系
    比如在线交易系统为了保证数据的最终一致性,在支付系统处理完成后会吧支付结果放在消息中间件里面通知订单系统修改订单支付状态,那么支付系统和订单系统都是通过中间件完成通讯的,他们就是松耦合的
消息中间件的主要模型
  • 点对点模型
    点对点模型适用于消息生产者和消息消费者之间的点对点的通信,消息生产者将消息发送到由某个名称标示的一个特定的消费者,这个名字实际上对应于消息服务器的一个队列,在消息传递给消费者之前该消息被存储在这个队列当中,队列消息可以放在内存中也可以放在硬盘中做持久化,以保证消息服务在出现故障时仍然能够正常传递消息


    image.png
  • 点对点模型的特性
    每个消息只适用于一个消费者,消费完成之后改消息被删除
    发送者和消费者之间没有时间依赖(在过期时间之内)
    接收者确认消息接收和处理成功
  • 发布-订阅模型
    发布者/订阅者模式支持向一个特定的消息主题产生消息,0个或多个订阅者可能对该主题的消息感兴趣就进行订阅,在该模式下,发布者和订阅者彼此不知道对方,该模式就好比是匿名公告版,这种模式被概括为:多个消费者可以获得消息,在发布者和订阅者之间存在时间依赖性,发布者需要建立一个订阅(subscription),以便消费者能都订阅,订阅者必须保持持续的活动链接状态,除非订阅者建立了持久订阅,在这种情况下,在订阅者为连接发布者的时候,发布者会将为发送给消费者的消息在消费者重新链接是重新发送给消费者。
  • 发布-订阅模型的主要特性
    每个消息可以有多个订阅者
    客户端只有在订阅后才能接收到消息
    分为持久订阅和非持久订阅

消息中间件的应用场景

网站用户注册,注册成功之后发生一封邮件或确认短信给用户

本场景的消息中间件不保存数据,客户端消费后即从中间件删除消息

image.png

将日志集中收集并用于PV计算或用户行为分析等

本场景的中间件提供数据的临时保存,然后通过客户端进行有机制的获取,之后在从中间件删除消息

image.png

数据复制案例
  • 将数据从源头复制到多个目的地,一般是要求顺序或者保证因果序列
  • 用于夸机房的数据传输、搜索、离线数据计算等
    可以用于压力测试,先将测试数据写入到消息中间件,然后测试的时候将数据发送给后端测试系统,数据在消息中间件持久保存,消费完成之后不被删除
    image.png
延迟消息发送和暂存
  • 把消息中间件当成可靠的消息暂存点
  • 定时消息投递,比如模拟用户秒杀访问,进行系统性能压测


    image.png
消息广播
  • 缓存数据同步更新
  • 向应用推送数据,比如更新本地数据


    image.png

消息中间件的分类及常见术语

分类
  • push
    推送消息模型,消息生产者将消息发送给消息中间件,消息中间件将消息推送给消息消费者,适用于订阅模式
  • pull
    拉消息模型,消费者向消息中间件请求消息,消息中间件将消息发送给消息消费者,适用于点对点的模式,每间隔半小时或一小时拉取一次消息,此方式效率不是很高
常见术语
  • Server(Broker)
    接受客户端(消费者)的连接,实现AMQP消息队列和路由功能的进程
  • Virtual Host
    是一个虚拟概念,类似于权限控制组,一个virtual host里面可以有若干个exchange和queue,但是权限控制的最小力度是virtual host
  • Exchange
    接受生产者发送的消息,并根据binding规则将消息路由给服务器中的队列,exchangetype决定了exchange路由消息的行为,例如在rabbitMQ中有direct、fanout和topic三种,即不同类型的exchange的行为是不一样的
  • Message Queue
    消息队列,保存了还未被消费者消费的消息
  • Message
    由header和body组成,其中header是由生产者添加的各种各样的属性的组合,包括Message是否被持久化、有哪个Message Queue接受、优先级是多少等等,而Body是真正要传输的数据
  • BindingKey
    所谓绑定就是将一个特定的Exchange和一个特定的Queue绑定起来,绑定关键字成为BindingKey
Exchange的三种分分类
  • direct exchange
    直接交互式处理路由键
    需要将一个队列绑定到交换机(exchange),并要求该消息与一个特定的路由键完全匹配,这是一个完整的匹配,如果一个队列绑定到该交换机上要求路由键“dog”,则只有标记为“dog”的消息才会被转发,即不会转发dog.xxx也不会转发dog.ooo只会转发dog
    image.png

    direct exchange 模式总结:任何发送到 Direct Exchange 的消息都会被转发到 RouteKey 中指定的 Queue
    1.一般情况可以使用rabbitMQ自带的Exchange:”"(该Exchange的名字为空字符串,下文称其为default Exchange)
    2.这种模式下不需要将Exchange进行任何绑定(binding)操作
    3.消息传递时需要一个“RouteKey”,可以简单的理解为要发送到的队列名字
    4.如果vhost中不存在RouteKey中指定的队列名,则该消息会被抛弃
  • fanout exchange
    广播式路由键
    只需要简单将队列绑定到交换机上,一个发送到交换机的 消息就会被转发到与该减缓及绑定的所有队列上,很像子网广播,每台子网内的主机都获得了一份复制的数据,fanout交换机转发消息是最快的
    fanout exchange 总结:任何发送到 Fanout Exchange 的消息都会被转发到与该 Exchange 绑定 (Binding) 的所有 Queue 上
    1.可以理解为路由表的模式
    2.这种模式不需要RouteKey
    3.这种模式需要提前将Exchange与Queue进行绑定,一个Exchange可以绑定多个Queue,一个Queue可以同多个Exchange进行绑定
    4.如果接受到消息的Exchange没有与任何Queue绑定,则消息会被抛弃
  • 主题式交换器
    通过消息的路由关键字和绑定关键字的模式匹配,将消息路由到被绑定的队列中,这种路由器类型可以被用来支持经典的发布/订阅消息传输模型–使用主题名字空间作为消息寻址模式,将消息传递给那些部分或者全部匹配主题模式的多个消费者,主题交换器类型的工作方式如下:绑定关键字用另个或多个标记构成,每一个标记之间用“.”字符分割,绑定关键字必须使用这种形式明确说明,并支持通配符,“”标示一个词组,“#”标示另个或多个词组,因此绑定关键字“.stock.#”匹配路由关键字”used.stock”和“error.stock.db”,但是不匹配”stock.db”,因为””标示一个词组即必须要有但是可以是任意词组
    image.png

    Topic exchange 总结:任何发送到 Topic Exchange 的消息都会被转发到所有关心 RouteKey 中指定话题的Queue 上
    1.这种模式较为复杂,简单来说,就是每个队列都有其关心的主题,所有的消息都带有一个“标题”(RouteKey),Exchange会将消息转发到所有关注主题能与RouteKey模糊匹配的队列
    2.这种模式需要RouteKey,也许要提前绑定Exchange与Queue
    3.在进行绑定时,要提供一个该队列关心的主题,如“#.log.#”表示该队列关心所有涉及log的消息(一个RouteKey为”MQ.log.error”的消息会被转发到该队列)
    4.“#”表示0个或若干个关键字,“
    ”表示一个关键字。如“log.*”能与“log.warn”匹配,无法与“log.warn.timeout”匹配;但是“log.#”能与上述两者匹配
    5.同样,如果Exchange没有发现能够与RouteKey匹配的Queue,则会抛弃此消息
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 156,907评论 4 360
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,546评论 1 289
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 106,705评论 0 238
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,624评论 0 203
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 51,940评论 3 285
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,371评论 1 210
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,672评论 2 310
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,396评论 0 195
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,069评论 1 238
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,350评论 2 242
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,876评论 1 256
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,243评论 2 251
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,847评论 3 231
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,004评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,755评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,378评论 2 269
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,266评论 2 259