第四章数据编码和更新-part4,designing Data-Intensive Applications 中文翻译摘要

消息队列数据流

这部分会简要介绍一种异步消息传递系统,在某种意义上讲是在数据库和RPC的折中方案。他与RPC相似点在于都是一个客户端用一个很短的延迟将请求传递给另一个进程。他与数据库相似点在于他并不是通过网络直接将数据发送给对方进程,而是通过一个消息传递代理,message broker,broker可以临时储存消息。跟RPC相比,消息队列有几个明显的好处

  • 当接收方临时不可用时,broker可以充当缓存临时将消息储存起来,这就提高了整个系统的可靠性。
  • 当一个处理进程崩溃后,他能够自动的将没处理的消息重新发给另一个处理进程,使得消息不会丢失。
  • 发送客户端不在需要知道接收进程的ip和端口号,这在云端部署的时候特别有用
  • 允许一个消息发送给多个接收方
  • 在逻辑层面上将客户端和服务器,在消息队列中我们称为发送者和接收方,进行了解耦。发送发只需要发布消息,而不再关心谁去消费这些消息

但是有一个问题和RPC不太相同,消息队列只是单向的。也就是说发送方没办法指望从接收方获得什么反馈。如果硬要发送反馈也是可以,但是一般都是通过另外一个消息通道完成的,也就是说这是一个异步的过程。发送方只管发送消息,不管这个消息是不是已经投递给了接收方或者是不是已经处理过了。发完了就不管了。

message broker(消息传递中间件)

过去这个组件都被大型商业公司承保了,但是现在有很多开源工具可供选择,RabbitMQ, ActiveMQ, HornetQ, NATS, Apache Kafka 都是比较有名的工具。消息队列的实现细节在不同项目中都不相同,总的来说都是这么一个流程。一个进程将消息发送到一个指定名字的队列(queue)或者主题(topic)中, broker保证消息能够至少传递给一个消费者(consumer) 或者订阅者(subscribers), 对于同一个topic,可能会有多个生产者和消费者。

一个topic一般都是单向的数据流,但是消费者可能同时需要发布消息给另一个消费者,这就形成了一个生产消费链,上级发送消息给下一级,下一级再生产消息给下下一级。或者消费者需要把消息发送到反馈队列传给发布者,这就和RPC的request/response模式很像了。

message broker不对数据模型有任何要求,因为一个消息只是一个字节流儿加一个metadata而已,所以你可以使用任意编码格式。如果你的编码能够做到向前向后兼容,那就就获得了极大的灵活性。你可以任意的修改你的发布者和消费者,或者按照任意顺序去部署他们。

如果你的消费者需要再发布一个消息到他的下游,你需要注意保留那些未知字段,就好像之前数据库遇到的问题一样,不要出现把新加的未知字段搞丢的情况出现。

分布式actor框架

actor model 是一种编程模型,他能让你编写的单进程得程序获得并发的效果。每个线程在逻辑层面封装成一个actor.每个actor实际代表一个线程或者某一个实体。这些实体拥有自己的内部状态,这些状态并不与外界共享,他们通过异步发送和接收消息的方式和其他actor进行通信。消息的传输是不可靠的,在特定的场景下,消息是可能丢失的。每个actor每次只处理一个消息,所以也不用操心什么多线程的问题,那些死锁或者其他奇奇怪怪的问题都不用担心了。 另外每个actor可以由框架独立部署。

在分布式actor框架下(distributed actor frameworks), 这个编程模型可以方便的把一个应用部署成多机应用。无论消息的发送者和接收者是不是在同一个节点上,他们都是用相同的消息传输机制。如果在不同节点上,那就会消息编码成字节流,发送到对应节点然后进行解码处理。

actor model相比RPC,有着更好的位置透明性,也就是你不再需要关心你的接收方到底是跟你在同一个机器上,还是不在。因为actor model本身就假设消息是可能会丢的,所以有些事情模型框架就帮你处理了。尽管消息如果通过网络进行传输,在延迟上会比在单机上处理慢,但是整体上来说,本地和远程通信在actor model下的区别还是要少一些的。

一个分布式的actor框架就是把一个broker和一个actor model集成为一个框架。尽管如此,如果你想做到灰度更新,你还是需要担心向前向后兼容的问题。

下面是3个主流的框架,

  • Akka使用java默认的编解码库,并不提供向前向后兼容性。但是你可以把它编码库替换掉,比如用Protocol Buffer就可以支持灰度更新了。
  • Orleans默认情况下使用自定义的编码格式,无法支持灰度更新。如果你要更新你的数据格式,你需要启用一个新的消息集群,把老的集群的消息导到新的上面,然后停掉老的(这简直了啊!)但是他和Akka一样,可以替换掉默认的编码库
  • Erlang OTP,十分令人吃惊,修改消息的schema是一个异常困难的事情。灰度更新虽然可以,但是要十分十分的小心。一种目前还在试验的数据类型,map,可能会让他在未来方便一些。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,100评论 18 139
  • “ 消息队列已经逐渐成为企业IT系统内部通信的核心手段。它具有低耦合、可靠投递、广播、流量控制、最终一致性等一系列...
    落羽成霜丶阅读 3,931评论 1 41
  • 姓名:周小蓬 16019110037 转载自:http://blog.csdn.net/YChenFeng/art...
    aeytifiw阅读 34,525评论 13 425
  • 黑龙江广电mysql数据库函数创建 DROP FUNCTION IF EXISTS `func_split`; D...
    辉格食品阅读 163评论 0 0
  • 今天发现一号店有一个非常漂亮的展示块,所有就顺便扒拉了一下他们的代码,实现了这个效果。那我先把效果图给下吧。 打开...
    郝特么冷阅读 283评论 0 0