RocketMQ 部署

本节将介绍生产就绪的部署解决方案。一般来说,我们将部署一个弹性的RocketMQ集群,没有单点故障。

先决条件

在开始这一节之前, 请确保您已经阅读快速启动部分中,并且熟悉RocketMQ的核心概念和组件。

开始部署

Name Server

为了确保集群在一个实例崩溃时仍然可以运行,建议使用两个或多个名称服务器实例。只要有一个名称服务器实例还活着,整个集群就会继续服务。

名称服务器遵循share-nothing设计范例。Brokers将心跳数据发送到所有名称服务器。生产者和消费者可以在发送或者消费消息时查询来自任何名称服务器的元数据。

Broker

Brokers 可以根据他们的角色分为两类:master 和 slave。master brokers提供RW访问,而slave brokers只接受读访问。

要部署一个没有单点故障的高可用性RocketMQ集群,应该部署一系列broker set。一个broker set包含一个master,其brokerID 设置为0,和多个slaves,其brokerID非零。一个集合中的所有代理都具有相同的代理名称。在正式的场景中,我们应该在一个代理集中至少有两个代理。每个主题都位于两个或更多的代理中。

Configuration

在部署RocketMQ集群时,建议的配置如下:

Broker configuration
Property Name Default value Details
listenPort 10911 端口监听客户端
namesrvAddr null 名称服务器地址
brokerIP1 InetAddress for network interface 是否应该配置多个地址
brokerName null broker 名称
brokerClusterName DefaultCluster 这个代理属于哪个集群
brokerId 0 broker id, 0 代表 master, 负数代表 slave
storePathCommitLog $HOME/store/commitlog/ 提交日志的文件路径
storePathConsumerQueue $HOME/store/consumequeue/ 用于消费队列的文件路径
mapedFileSizeCommitLog 1024 * 1024 * 1024(1G) 用于提交日志的映射文件大小
deleteWhen 04 何时删除超出预留时间的提交日志
fileReserverdTime 72 在删除提交日志之前的小时数
brokerRole ASYNC_MASTER SYNC_MASTER/ASYNC_MASTER/SLVAE
flushDiskType ASYNC_FLUSH {SYNC_FLUSH/ASYNC_FLUSH}. SYNC_FLUSH 模式在Broker ack生产者之前将每个消息都放到磁盘上. Broker of ASYNC_FLUSH 模式与之相反,利用异步批量提交的优势,获取更好的性能.

CLI Admin 工具

RocketMQ提供了一个CLI(命令行界面)管理工具带来查询、管理和诊断各种问题。

如何获得

管理工具和RocketMQ一起打包。您可以下载预构建的二进制版本,也可以自己从源代码构建,您已经拥有它了。

如果您需要源代码,rocketmq-tools模块包含它的源代码。

如何使用

管理工具很容易使用。在这里,为了演示目的,假定*nix环境。

更改目录到${PACKAGE}/bin,命令行输入mqadmin,您应该看到以下帮助菜单:

The most commonly used mqadmin commands are:
   updateTopic          Update or create topic
   deleteTopic          Delete topic from broker and NameServer
   updateSubGroup       Update or create subscription group
   deleteSubGroup       Delete subscription group from broker
   updateBrokerConfig   Update broker's config
   updateTopicPerm      Update topic perm
   topicRoute           Examine topic route info
   topicStatus          Examine topic Status info
   topicClusterList     get cluster info for topic
   brokerStatus         Fetch broker runtime status data
   queryMsgById         Query Message by Id
   queryMsgByKey        Query Message by Key
   queryMsgByUniqueKey  Query Message by Unique key
   queryMsgByOffset     Query Message by offset
   queryMsgByUniqueKey  Query Message by Unique key
   printMsg             Print Message Detail
   sendMsgStatus        Send msg to broker
   brokerConsumeStats   Fetch broker consume stats data
   producerConnection   Query producer's socket connection and client version
   consumerConnection   Query consumer's socket connection, client version and subscription
   consumerProgress     Query consumers's progress, speed
   consumerStatus       Query consumer's internal data structure
   cloneGroupOffset     Clone offset from other group
   clusterList          List all of clusters
   topicList            Fetch all topic list from name server
   updateKvConfig       Create or update KV config
   deleteKvConfig       Delete KV config
   wipeWritePerm        Wipe write perm of broker in all name server
   resetOffsetByTime    Reset consumer offset by timestamp(without client restart)
   updateOrderConf      Create or update or delete order conf
   cleanExpiredCQ       Clean expired ConsumeQueue on broker.
   cleanUnusedTopic     Clean unused topic on broker
   startMonitoring      Start Monitoring
   statsAll             Topic and Consumer tps stats
   syncDocs             Synchronize wiki and issue to github.com
   allocateMQ           Allocate MQ
   checkMsgSendRT       Check message send response time
   clusterRT            List All clusters Message Send RT

有关特定命令的更多信息,请参见“mqadmin help”。如果您想获得关于特定命令的更多信息,如“clusterList”,只需键入mqadmin help clusterList,您将会看到:

usage: mqadmin clusterList [-h] [-i <arg>] [-m] [-n <arg>]
 -h,--help                Print help
 -i,--interval <arg>      specify intervals numbers, it is in seconds
 -m,--moreStats           Print more stats
 -n,--namesrvAddr <arg>   Name server address list, eg: 192.168.0.1:9876;192.168.0.2:9876

复制模式

为了确保不会丢失成功发布的消息,RocketMQ提供了一个复制模式,具有两种复制方式:Sync和Async,以获得更强的持久性和高可用性。

复制: Sync / Async Broker

像许多复制系统一样,同步的brokers等待提交日志复制到slave再给ack。而异步brokers则在master上的消息处理完后立即返回。

如何配置

在conf文件夹下,有三个预构建配置与RocketMQ的分布一起,供您参考:

2m-2s-sync
2m-2s-async
2m-noslave

Note: 所有的配置均ASYNC_FLUSH.

部署

2m-2s-sync为例。首先,启动两个名称服务器,如快速启动部分所示。假设它们的IPs是192.168.0.2和192.168.0.3。

然后启动brokers(假设二进制RocketMQ位于/home/rocketmq/dist)

>cd /home/rocketmq/dist/bin
>bash mqbroker -c ../conf/2m-2s-sync/broker-a.properties -n 192.168.0.2:9876,192.168.0.3:9876
>bash mqbroker -c ../conf/2m-2s-sync/broker-a-s.properties -n 192.168.0.2:9876,192.168.0.3:9876
>bash mqbroker -c ../conf/2m-2s-sync/broker-b.properties -n 192.168.0.2:9876,192.168.0.3:9876
>bash mqbroker -c ../conf/2m-2s-sync/broker-b-s.properties -n 192.168.0.2:9876,192.168.0.3:9876
How to verify
Execute the following command to verify according to the CLI section:
> bash mqadmin clusterlist
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,425评论 4 361
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,058评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,186评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,848评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,249评论 3 286
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,554评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,830评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,536评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,239评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,505评论 2 244
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,004评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,346评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,999评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,060评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,821评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,574评论 2 271
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,480评论 2 267

推荐阅读更多精彩内容