Spring Cloud—六、使用Ribbon实现负载均衡

首先,我们思考一个问题,如果为同一个提供者在Eureka中注册了多个服务,那么客户端该如何选择服务呢?

这时,就需要在客户端实现服务的负载均衡。

在Spring Cloud中推荐使用Ribbon来实现负载均衡。

6.1、Ribbon简介

Ribbon是Netflix发布的负载均衡器,它有助于控制HTTP和TCP客户端的行为。为Ribbon配置服务提供者地址列表后,Ribbon就可基于某种负载均衡算法,自动地帮助服务消费者去请求。Ribbon默认为我们提供了很多的负载均衡算法,例如轮询、随机等。当然,我们也可以为Ribbon实现自定义的负载均衡算法。

6.2、架构

架构.png

6.3、开始使用Ribbon

6.3.1、为springcloud-demo-order增肌ribbon依赖

该依赖是在spring-cloud-start-eureka-server中已经包含了。


依赖.png
6.3.2、为RestTemplate设置@LoadBalanced注解
开启负载均衡.png

这样,RestTemplate就具备了负载均衡的功能。

6.3.3、改造ItemService的实现
public Item queryItemById(Long id) {
    String sericeId = "springcloud-demo-item";
    String url = "http://" + sericeId + ":/item/query/" + id;
    return this.restTemplate.getForObject(url,Item.class);
}

可以发现,实现更加简化了。

6.3.4、重启订单服务进行测试:
结果.png

在执行请求前会经过org.springframework.cloud.client.loadbalancer.LoadBalancerInterceptor这个拦截器,并且通过org.springframework.cloud.netfix.ribbon.RibbonLoadBalancerClient中,通过servreId查找服务地址,然后再去做真正的请求。

6.3.5、测试负载均衡

测试方法:
第一步:启动2个springcloud-demo-item服务(多个也可以)


eureka.png

第二步,编写单元测试用例,导入测试依赖:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-test</artifactId>
    <scope>test</scope>
</dependency>

第三步,编写测试用例

package cn.zuoqy.springclouddemoorder.service;

import cn.zuoqy.springclouddemoorder.SpringcloudDemoOrderApplication;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.loadbalancer.LoadBalancerClient;
import org.springframework.context.annotation.Import;
import org.springframework.test.context.junit4.SpringJUnit4ClassRunner;

/**
* Created by zuoqy on 14:06 2018/11/14.
*/
@RunWith(SpringJUnit4ClassRunner.class)
@SpringBootTest
@Import(SpringcloudDemoOrderApplication.class)
public class ItemServiceTest {

    @Autowired
    private LoadBalancerClient loadBalancerClient;

    @Test
    public void test() {
        String serviceId = "springcloud-demo-item";
        for (int i=0; i<100; i++) {
            ServiceInstance instance = this.loadBalancerClient.choose(serviceId);
            System.out.println("第"+(i+1)+"次:"+instance.getHost()+":"+instance.getPort());
        }
    }
}

测试结果:
负载均衡测试结果.png

6.4、设置负载均衡的为随机

配置:

#负载均衡随机策略
springcloud-demo-item.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule

测试:
负载均衡测试结果.png

6.5、其它策略

AbstractLoadBalancerRule:负载均衡策略的抽象类,在该抽象类中定义了负载均衡器ILoadBalancer对象,该对象能够在具体实现选择服务策略时,获取到一些负载均衡器中维护的信息来作为分配依据,并以此设计一些算法来实现针对特定场景的高效策略。

RandomRule:该策略实现了从服务实例清单中随机选择一个服务实例的功能。它的具体实现如下,可以看到IRule接口choose(Object key)函数实现,委托给了该类中的choose(ILoadBalancer lb,Object key),该方法增肌了一个负载均衡对象的参数。从具体的实现上看,它会使用传入的负载均衡器来获得可用实例列表upList和所有实例列表allList,并通过rand.nextInt(serverCount)函数来获取一个随机数,并将该随机数作为upList的索引值来返回具体实例。同时,具体的选择逻辑在一个while(server==null)循环之内,而根据选择逻辑的实现,正常情况下每次选择都应该能够选出一个服务实例,如果出现死循环获取不到服务实例,则很有可能存在并。发的Bug。

RoundRobinRule:该策略实现了按照线性轮询的方式依次选择每个服务实例的功能。它的具体实现如下,其详细结构与RandomRule非常类似。除了循环条件不同外,就是从可用列表中获取所谓的逻辑不同。从循环条件中,我们可以看到增加了一个count计数变量,该变量会在每次循环之后累加,也就是说如果一直选择不到server超过10次,那么就会结束尝试,并打印一个警告信息No available alive servers after 10 tries from load balancer:...。而线性轮询的实现则是通过AtomicInteger nextServerCylicCounter对象实现,每次进行实例选择时通过调用incrementAndGetModulo函数试下递增。

RetryRule:该策略实现了一个具备重试机制的实例选择功能。从下面的实例中我们可以看到,在其内部还定义了一个IRule对象,默认使用了RoundRobinRule实例。而在choose方法中的则实现了对内部定义的策略进行反复尝试的策略,若期间能够选择到具体的服务实例就返回,若选择不到就根据设置的尝试结束时间为阈值(maxRetryMillis参数定义的值+choose方法开始执行的时间戳),当超过该阈值后就返回null。

建议:采用默认策略即可。

Spring Cloud—一、微服务架构
Spring Cloud—二、Spring Cloud简介
Spring Cloud—三、使用Spring Cloud实现微服务
Spring Cloud—四、Spring Cloud快速入门
Spring Cloud—五、注册中心Eureka
Spring Cloud—六、使用Ribbon实现负载均衡
Spring Cloud—七、容错保护:Hystrix
Spring Cloud—八、使用Feign实现声明式的Rest调用
Spring Cloud—九、服务网关Spring Cloud Zuul
Spring Cloud—十、使用Spring Cloud Config统一管理微服务
Spring Cloud—十一、使用Spring Cloud Bus(消息总线)实现自动更新

demo源码

推荐阅读更多精彩内容