dubbo剖析:七 网络通信总结

注:文章中使用的dubbo源码版本为2.5.4

零、文章目录

  • Dubbo的网络分层抽象
  • Dubbo如何保证Client端与Server端的连通性
  • Dubbo编解码协议--解决TCP粘包拆包问题
  • Dubbo的请求响应模式,如何将异步IO变为同步RPC
  • Dubbo线程模型总结

一、Dubbo的网络分层抽象

Dubbo整体设计

上图为Dubbo整体设计的分层抽象。

网络通信位于Remoting模块:

  • Remoting 实现是 Dubbo 协议的实现,如果你选择 RMI 协议,整个 Remoting 都不会用上;
  • Remoting 内部再划为 Transport 传输层Exchange 信息交换层
  • Transport 层只负责单向消息传输,是对 Mina, Netty, Grizzly 的抽象,它也可以扩展 UDP 传输;
  • Exchange 层是在传输层之上封装了 Request-Response 语义;


    Remoting模块类关系图

Transport网络传输层:

  • 抽象 mina 和 netty 为统一接口,以 Message 为中心,扩展接口为 Channel, Transporter, Client, Server, Codec
  • Channel 为网络层通道的抽象,其具备单向消息传输的能力,且可以绑定和获取属性;
  • Codec 为编解码协议的抽象,其定义了encode()decode()方法,做网络byte流和通信消息体的转换;
  • Client 为网络层客户端的抽象,其继承了Channel接口,同时定义了重连方法reconnect
  • Server 为网络层服务端的抽象,其具备单向消息传输消息的能力,且可以获取绑定在其上的所有网络通道Channel
  • Transporter 为网络传输层入口,提供了创建ServerClient的两个核心接口;

Exchange信息交换层:

  • 封装请求响应模式,同步转异步。以 Request, Response 为中心,扩展接口为 Exchanger, ExchangeChannel, ExchangeClient, ExchangeServer
  • RequestResponse 为请求响应模式消息体的封装,RPC请求响应信息的承载者;
  • ExchangeChannel 为信息交换层通道的抽象,其继承了Channel接口,并添加了具有同步请求响应语义的request()方法;
  • ExchangeClient 为信息交换层客户端的抽象,继承了ExchangeChannel接口,具有了发送同步RPC请求并处理响应的能力;
  • ExchangeServer 为信息交换层服务端的抽象;
  • Exchanger 为信息交换层入口,提供了创建ExchangeServerExchangeClient两个核心接口;

二、Dubbo如何保证Client端与Server端的连通性

Dubbo采用双向心跳的方式检测Client端与Server端的连通性。

2.1 心跳请求的发送

在信息交换层服务端实现类HeaderExchangeServer和客户端实现类HeaderExchangeClient中包含一个 心跳定时任务HeartBeatTask

  • HeaderExchangeServerHeaderExchangeClient启动时会创建一个定时线程池执行心跳定时任务,关闭时会同时关闭该心跳定时任务;
  • HeartBeatTask会循环检测ClientServer中绑定的网络通道Channel,将通道中 最近一次接收或发送消息 的时间与当前时刻做比较,如果两者相隔超过了一个 心跳周期 ,则主动构建并通过Channel 向对端发送一个 心跳请求消息

2.2 心跳请求的接收及处理

在请求接收的Handler处理链路中,包含有一个 心跳消息处理器HeartbeatHandler

  • 对于所有类型的请求消息,该处理器都会更新对应通道中 最近一次接收消息 的时间;
  • 对于心跳请求消息,该处理器接收心跳请求并构建对应的心跳响应通过通道Channel发送回去;

2.3 心跳超时的检测及处理

在信息交换层服务端实现类HeaderExchangeServer和客户端实现类HeaderExchangeClient中包含一个 心跳定时任务HeartBeatTask

  • HeartBeatTask会循环检测ClientServer中绑定的网络通道Channel,当发现通道中 最近一次接收消息 的时间与当前检测时间间隔超过 心跳超时时间 时,会触发心跳超时逻辑的执行;
  • 对于服务端,心跳超时发生时,会调用channel.close()主动断连对应通道;
  • 对于客户端,心跳超时发生时,会调用client.reconnect()执行网络通道重连逻辑。如果重连失败则不做处理等待下次心跳超时检测时再次触发重连逻辑

三、Dubbo编解码协议,解决TCP粘包拆包问题

Dubbo协议头
  • Dubbo在TCP协议的基础上添加了自己的消息协议头,以进行RequestResponse消息的编解码,解决TCP的粘包拆包问题。
  • 粘包拆包问题的说明请见 netty学习系列八:拆包器

3.1 请求消息协议头说明

  • 0-1byte:一个魔数数字MAGIC,就是一个固定的数字
  • 2byte:请求的双向或单向标记
  • 3byte:无
  • 4-11byte:请求ID,long类型。异步变同步的全局唯一ID,用来做consumer和provider的来回通信标记
  • 12-15byte:消息体长度,int类型。也就是消息头+请求数据的长度

3.2 响应消息协议头说明

  • 0-1byte:一个魔数数字MAGIC,就是一个固定的数字
  • 2byte:序列化组件类型,它用于和客户端约定序列化编码号
  • 3byte:它是Response的结果响应码,例如OK=20
  • 4-11byte:请求ID,long类型。异步变同步的全局唯一ID,用来做consumer和provider的来回通信标记
  • 12-15byte:消息体长度,int类型。也就是消息头+请求数据的长度

3.3 粘包拆包的解决

基本原理就是不断从TCP缓冲区中读取数据,并将新读取到的数据向后追加到 本地消息缓存 中,然后进行解码处理:

  • 如果当前本地消息缓存中不足以拼接成一个业务数据包,那就保留数据,继续从tcp缓冲区中读取数据;
  • 如果当前本地消息缓存中能够拼接成一个业务数据包,那就将对应数据解码成一个完整的业务数据包并传递给业务逻辑处理,本地消息缓存中剩余的多余数据仍然保留,以便和下次读到的数据尝试拼接;
  • TCP协议保证了TCP数据报的 不丢不重不乱序 ,这是Dubbo编解码方式的前提;

四、Dubbo的请求响应模式,如何将异步IO变为同步RPC

3.1 发起RPC调用请求的业务线程,是如何同步阻塞等待直到RPC响应返回的?

  • 业务请求线程调用HeaderExchangeClient.request()方法发送RPC请求消息到网络,然后直接调用DefaultFuture.get()方法阻塞等待RPC执行结果;
  • get()阻塞等待的本质:循环检测Response结果是否被设置成功,如果不成功使用Condition.await()阻塞直到结果返回;
  • NettyClient接收到RPC响应消息时,会调用DefaultFuture.received()方法,该方法中触发了Condition.signal()通知业务请求线程解除阻塞等待状态;

3.2 对于全双工的网络通信,在多线程并发请求响应的情况下,如果找到RPC响应Response对应的RPC请求Request?

  • 对于不同的服务消费者客户端,请求响应自然与其网络通道Channel绑定,不会存在消费者A接收到消费者B的RPC响应的情况;
  • 对于同一服务消费者客户端,在RPC请求Request构建时生成并携带全局唯一自增ID,RPC响应Response会携带该ID返回。消费者客户端只需维护 “唯一ID与RPC请求的关系Map<Long, DefaultFuture> FUTURES”即可定位RPC响应对应的RPC调用上下文;

五、Dubbo线程模型总结

Dubbo请求响应线程模型图
  • 蓝色代表“发送RPC请求”过程,由 业务请求线程 执行,通过NettyChannel将请求数据放入Netty的IO任务队列后,构建ResponseFuture并返回。此时RPC请求发送及响应接收并未真正完成;
  • 紫色是基于Netty的网络消息收发过程,通过当前网络通道绑定的NioEventLoop线程轮询完成;
  • 橙色代表“接收RPC响应”过程,该过程在 Dubbo业务线程池 中执行,处理RPC响应消息并交由ResponseFuture触发接收响应的逻辑;
  • 绿色代表“获取RPC调用结果”过程,由 业务请求线程 执行,阻塞直到从ResponseFuture中获取到RPC响应结果;
  • 红色代表“接收并处理RPC请求”过程,在 Dubbo业务线程池 中执行。RPC请求消息由HeaderExchangeHandler处理,通过DubboInvoker反射执行 实际接口实现类 得到执行结果,并封装成Response交由网络通道发送RPC响应。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 162,475评论 4 372
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,744评论 2 307
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 112,101评论 0 254
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,732评论 0 221
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 53,141评论 3 297
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 41,049评论 1 226
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,188评论 2 320
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,965评论 0 213
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,716评论 1 250
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,867评论 2 254
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,341评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,663评论 3 263
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,376评论 3 244
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,200评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,990评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,179评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,979评论 2 279

推荐阅读更多精彩内容