蚂蚁金服SOFA-Boot整合SOFA-RPC(下篇)

前言

上文介绍了SOFA-RPC 的几种调用方式,包括单向调用、同步调用、Future调用、回调,引入了泛化调用和过滤器。本文将对 SOFA-RPC 的高级功能,包括参数配置、自定义线程池、预热权重和自动故障剔除等。

image

正文

1. 参数配置

SOFABoot RPC Starter 提供了方便的参数设置方式。这些参数目前可以分为两个部分。一部分是如端口,注册中心地址等配置,这类配置在 application.properties 中。另一部分是如超时时间等配置,这类配置在 XML 中。

XML 配置

  • 调用超时时间

如下是设置超时时间的方式,单位为 ms ,如果调用超过了这个时间则会抛出异常。服务端和客户端都可以设置,以客户端的超时时间设置优先。默认客户端为 3000 ,目前对 bolt,rest,dubbo 生效。

<sofa:binding.bolt>
    <sofa:global-attrs timeout="5000"/>
</sofa:binding.bolt>
  • 获取地址等待时间

如下是设置获取地址等待时间,单位为ms。在启动时如果服务引用方等待超过了这个时间则不会再等待地址,会继续启动。客户端设置,默认为-1,表示会一直等待到地址为止。目前对 bolt,rest 生效。

<sofa:binding.bolt>
    <sofa:global-attrs address-wait-time="30000"/>
</sofa:binding.bolt>
  • 建立连接超时时间

如下是设置建立连接超时时间,单位为 ms 。在建立连接时如果耗时超过了这个时间则会抛出异常。客户端设,默认为 5000。目前对 bolt,rest 生效。

<sofa:binding.bolt>
    <sofa:global-attrs connect.timeout="30000"
</sofa:binding.bolt>
  • 权重

如下是设置权重。客户端在发起调用时,如果采用的算法是随机调用,则会根据该权重来进行随机。服务端设置,默认为 100。目前对 bolt 生效。

<sofa:binding.bolt>
    <sofa:global-attrs weight="200"/>
</sofa:binding.bolt>
  • lazy 连接

默认情况下客户端在注册中心推送地址到客户端时,就立即建立好连接,这个过程通常是在第一次调用之前进行的。如果设置服务引用的属性 lazy 为 true,客户端在第一次调用时才和所要调用的远程地址建立连接。默认为 false。

如下设置 lazy 连接方式,将 lazy 属性设为 true。目前支持 bolt 和 dubbo 协议。

<sofa:reference id="lazyServiceReferenceBolt" interface="com.ostenant.sofa.rpc.example.lazy.LazyService">
    <sofa:binding.bolt>
        <sofa:global-attrs lazy="true"/>
    </sofa:binding.bolt>
</sofa:reference>
  • check 属性

默认情况下客户端在启动时,服务引用不要求存在可用的地址和连接。如果设置服务引用的属性 check 为 true,客户端在启动时,服务引用会检查是否存在对应的地址和连接,如果不存在会抛出异常。默认为 false。

如下设置 check 连接方式,将 check 属性设为 true。目前支持 bolt 和 dubbo 协议。

<sofa:reference id="checkServiceReferenceBolt" interface="com.ostenant.sofa.rpc.example.check.CheckService">
    <sofa:binding.bolt>
        <sofa:global-attrs check="true"/>
    </sofa:binding.bolt>
</sofa:reference>
  • 重试次数

重试次数,即在第一次调用失败后重试的最大次数,如果重试成功则不再继续重试。默认为 0。如下设置调用次数,利用 retries 属性指定重试次数。目前支持 bolt 和 dubbo 协议。

<sofa:reference id="retriesServiceReferenceBolt" interface="com.ostenant.sofa.rpc.example.retries.RetriesService">
    <sofa:binding.bolt>
        <sofa:global-attrs retries="2"/>
    </sofa:binding.bolt>
</sofa:reference>
  • 负载均衡

如下选择负载均衡的方式,利用 loadBalancer 属性指定调用时候使用的负载均衡策略,默认为 random。

目前支持 random,localPref,roundRobin,consistentHash,weightRoundRobin 五种负载均衡策略,具体可见 SOFARPC 负载均衡相关介绍。目前支持bolt协议。

<sofa:reference id="loadBalancerServiceReference" interface="com.ostenant.sofa.rpc.example.loadBalancer.LoadBalancerService">
    <sofa:binding.bolt>
        <sofa:global-attrs loadBalancer="random"/>
    </sofa:binding.bolt>
</sofa:reference>
  • 方法级别配置

如下,sofa:method 元素是方法级别的配置。方法级别的配置优先级比服务级别的更高。name 属性指定了方法的名字。支持调用超时时间,调用方式,回调类的设置。方法级别的配置与服务级别的配置所生效的协议一样。

<sofa:binding.bolt>
    <sofa:method name="sayMethod" timeout="3000" type="sync" callback-ref="xxx"/>
</sofa:binding.bolt>

Properties 配置

属性 描述 默认值
spring.application.name 应用名
logging.path 日志路径
logging.level.com.alipay.sofa.rpc.boot sofa-rpc-boot-start的日志级别(starter自身的日志) info
logging.level.com.alipay.sofa.rpc sofa-rpc的日志级别(sofa-rpc核心日志基本在这里) info
com.alipay.sofa.rpc.bolt.port bolt 端口 22000
com.alipay.sofa.rpc.bolt.io.thread.count bolt 的 io 线程数
com.alipay.sofa.rpc.bolt.executor.thread.count bolt 的业务线程最大值 200
com.alipay.sofa.rpc.bolt.accepts.count bolt 能够支持的最大长连接数 100000
com.alipay.sofa.rpc.rest.hostname rest 的 hostname
com.alipay.sofa.rpc.rest.port rest 端口 8341
com.alipay.sofa.rpc.rest.io.thread.count rest 的 io 线程数 cpu 核数 * 2
com.alipay.sofa.rpc.rest.executor.thread.count rest 的业务线程数 200
com.alipay.sofa.rpc.rest.max.request.size rest 的最大 byte 请求长度 1024 * 1024 * 10
com.alipay.sofa.rpc.rest.telnet rest 是否支持 telnet true
com.alipay.sofa.rpc.rest.daemon rest 是否支持 daemon true
com.alipay.sofa.rpc.dubbo.port dubbo 的端口 20880
com.alipay.sofa.rpc.dubbo.io.thread.count dubbo 的 io 线程数 cpu 核数 + 1
com.alipay.sofa.rpc.dubbo.executor.thread.count dubbo 的业务线程数 100
com.alipay.sofa.rpc.dubbo.accepts.count dubbo能够支持的最大长连接数 0,表示不限制

2. 自定义线程池

SOFA-RPC 支持自定义业务线程池。可以为指定服务设置一个独立的业务线程池,和 SOFA-RPC 自身的业务线程池是隔离的,多个服务可以共用一个独立的线程池。目前支持 bolt 协议。

在 SOFA-Boot 环境中可以为一个服务设置一个自定义线程池,配置如下:

  • 声明自定义线程池

如下声明一个自定义线程池,class 必须为 com.alipay.sofa.rpc.server.UserThreadPool,这是 SOFA-RPC 提供的类,init-method="init" 也必须声明以进行初始化。

<bean id="customerThreadPool" class="com.alipay.sofa.rpc.server.UserThreadPool" init-method="init">
    <property name="corePoolSize" value="10"/>
    <property name="maximumPoolSize" value="10"/>
    <property name="queueSize" value="5"/>
    <property name="threadPoolName" value="customerThreadPool_name"/>
</bean>
  • 为服务设置自定义线程池

如下通过 sofa:global-attrs 元素的 thread-pool-ref 属性为该服务设置自定义线程池。customerThreadPool 是上面自定义线程池的 bean id

<bean id="threadPoolServiceImpl" class="com.ostenant.sofa.rpc.example.threadpool.ThreadPoolServiceImpl"/>
<sofa:service ref="threadPoolServiceImpl" interface="com.alipay.sofa.rpc.samples.threadpool.ThreadPoolService">
    <sofa:binding.bolt>
        <sofa:global-attrs thread-pool-ref="customerThreadPool"/>
    </sofa:binding.bolt>
</sofa:service>

3. 预热权重

SOFA-RPC 提供了预热权重功能让客户端机器能够根据服务端的相应权重进行流量的分发。目前支持 bolt 协议。

SOFA-Boot 中提供了一系列参数属性,对指定服务进行预热配置。客户端机器能够自动解析这些参数,并按权重进行流量分发。

  • warm-up-time: 服务的预热时间
  • warm-up-weight: 服务设置预热期间权重
  • weight: 服务设置预热完后的权重
<sofa:reference id="sampleRestFacadeReferenceBolt" interface="com.alipay.sofa.endpoint.facade.SampleFacade">
    <sofa:binding.bolt>
         <sofa:global-attrs warm-up-time="10000" warm-up-weight="10" weight="100"/>
     </sofa:binding.bolt>
</sofa:reference>

上述配置中,该服务的预热期为10s,在预热期内权重为10,预热期结束后的正常权重为100。

如果该服务一共发布到A,B两个机器上。A机器正处于预热期内,使用上述配置;B已经完成预热,正常权重为200。那么客户端在调用的时候,此时流量分发的比重为10:200;A机器预热结束后,流量分发比重为100:200。

4. 自动故障剔除

自动故障剔除会自动监控 RPC 调用的情况,对故障节点进行权重降级,并在节点恢复健康时进行权重恢复。目前支持 bolt 协议。

在 SOFA-Boot 中,只需要将自动故障剔除的参数配置到 application.properties 即可。只配置自己关心的参数,其余参数会取默认值。需要注意的是,rpc.aft.regulation.effective 是该功能的全局开关,如果关闭则该功能不会运行,其他参数也都不生效。

  • 自动故障剔除的配置参数意义
属性 描述 默认值
com.alipay.sofa.rpc.aft.time.window 时间窗口大小:对统计信息计算的周期。 10s
com.alipay.sofa.rpc.aft.least.window.count 时间窗口内最少调用数:只有在时间窗口内达到了该最低值的数据才会被加入到计算和调控中。 10次
com.alipay.sofa.rpc.aft.least.window.exception.rate.multiple 时间窗口内异常率与服务平均异常率的降级比值:在对统计信息进行计算的时候,会计算出该服务所有有效调用ip的平均异常率,如果某个ip的异常率大于等于了这个最低比值,则会被降级。 6倍
com.alipay.sofa.rpc.aft.weight.degrade.rate 降级比率:地址在进行权重降级时的降级比率。 1/20
com.alipay.sofa.rpc.aft.weight.recover.rate 恢复比率:地址在进行权重恢复时的恢复比率。 2倍
com.alipay.sofa.rpc.aft.degrade.effective 降级开关:如果应用打开了这个开关,则会对符合降级的地址进行降级,否则只会进行日志打印。 false(关闭)
com.alipay.sofa.rpc.aft.degrade.least.weight 降级最小权重:地址权重被降级后的值如果小于这个最小权重,则会以该最小权重作为降级后的值。 0
com.alipay.sofa.rpc.aft.degrade.max.ip.count 降级的最大ip数:同一个服务被降级的ip数不能超过该值。 2
com.alipay.sofa.rpc.aft.regulation.effective 全局开关:如果应用打开了这个开关,则会开启整个单点故障自动剔除摘除功能,否则完全不进入该功能的逻辑。 false(关闭)
  • 配置示例
com.alipay.sofa.rpc.aft.time.window=20
com.alipay.sofa.rpc.aft.least.window.count=30
com.alipay.sofa.rpc.aft.least.window.exception.rate.multiple=6
com.alipay.sofa.rpc.aft.weight.degrade.rate=0.5
com.alipay.sofa.rpc.aft.weight.recover.rate=1.2
com.alipay.sofa.rpc.aft.degrade.effective=ture
com.alipay.sofa.rpc.aft.degrade.least.weight=1
com.alipay.sofa.rpc.aft.degrade.max.ip.count=2
com.alipay.sofa.rpc.aft.regulation.effective=true

上述配置中,默认打开了自动故障剔除功能和降级开关。当节点出现故障时会被进行权重降级,在恢复时会被进行权重恢复。

每隔 20s 进行一次节点健康状态的度量,20s 内调用次数超过 30 次的节点才被作为计算数据。

如果单个节点的异常率超过了所有节点的平均异常率的 6 倍,则对该节点进行权重降级,降级的比率为 0.5。权重最小降级到 1。如果单个节点的异常率低于了平均异常率的 6 倍,则对该节点进行权重恢复,恢复的比率为1.2。单个服务最多降级 2 个 IP。

小结

本文介绍了 SOFA-RPC 的高级功能,包括参数配置,自定义线程池,服务预热和自动降级与权重恢复等用法。对于 SOFA-RPC 提供的基本功能,以及整合 SOFA-Boot 的配置和用法就介绍完了。对此有了初步的认识后,有利于后续深入实现原理和剖析源码。


欢迎关注技术公众号: 零壹技术栈

image

本帐号将持续分享后端技术干货,包括虚拟机基础,多线程编程,高性能框架,异步、缓存和消息中间件,分布式和微服务,架构学习和进阶等学习资料和文章。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容

  • 简介摘要SOFARPC服务调用创建服务引用配置ConsumerConfig,自定义设置接口名称、调用协议、直连调用...
    鋒Nic阅读 9,416评论 1 7
  • 第一天二十四小时,焦虑着看着他的脸,但很开心一直都白白净净的,没有出现哥哥的病理性黄疸,总算心理放松了下来,还可葵...
    苏田田阅读 201评论 0 0
  • 当扫尽校园的最后一片落叶时,冬真的来了!冬天的校服不想离身,早晚上下学的路上,寒风拂过,脸颊生疼。可孩子们不...
    An如菊阅读 458评论 0 0
  • 一家小店,从早上开门营业到午餐后关门休息期间座无虚席,排队等候者经常众之。 不记得是谁推荐来的,反正是来了第一次后...
    三月江花阅读 494评论 10 2