天天看点
返回

SpringCloud详解（三）：服务容错保护Hystrix

在微服务架构中，存在着很多的服务单元，若一个单元出现故障，就很容易因依赖关系而引发故障的蔓延，最终导致整个系统的瘫痪，为了解决这样的问题，产生了断路器等一系列的服务保护机制

当某个服务单元发生故障之后，通过断路器的故障监控，向调用方返回一个错误响应，而不是长时间的等待。这样就不会使得线程因调用故障服务被长时间占用不释放，避免了故障在分布式系统中的蔓延

SpringCloud Hystrix具备服务降级、服务熔断、线程和信号隔离、请求缓存、请求合并以及服务监控等强大功能

1、快速入门

前两篇关于Eureka和Ribbon的博客，实现了如下图所示的服务调用关系

SpringCloud详解（三）：服务容错保护Hystrix
  • eureka-server工程：服务注册中心
  • service-provider工程：HELLO-SERVICE的服务单元，两个实例启动端口分别为8080和8081
  • ribbon-consumer工程：使用Ribbon实现的服务消费者，端口为9000

在ribbon-consumer工程中引入spring-cloud-starter-netflix-hystrix的依赖：

<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>

在主类上添加@EnableDiscoveryClient注解@EnableCircuitBreaker

@EnableCircuitBreaker
@EnableDiscoveryClient
@SpringBootApplication
public class RibbonConsumerApplication {

    public static void main(String[] args) {
        SpringApplication.run(RibbonConsumerApplication.class, args);
    }

    @Bean
    @LoadBalanced
    RestTemplate restTemplate() {
        return new RestTemplate();
    }

}

还可以使用SpringCloud应用中的@SpringCloudApplication注解来修饰主类，该注解包含了上面所引用的三个注解，这也意味着一个标准的SpringCloud应用包含服务发现以及断路器

@Target(ElementType.TYPE)
@Retention(RetentionPolicy.RUNTIME)
@Documented
@Inherited
@SpringBootApplication
@EnableDiscoveryClient
@EnableCircuitBreaker
public @interface SpringCloudApplication {

}

改造服务消费方式，添加一个ConsumeService类，注入RestTemplate的使用迁移到helloService方法中，最后，在helloService方法上增加@HystrixCommand注解来指定回调方法

@Service
public class HelloService {
    @Autowired
    private RestTemplate restTemplate;

    @HystrixCommand(fallbackMethod = "helloFallbak")
    public String helloService() {
        return restTemplate.getForEntity("http://HELLO-SERVICE/hello?name={1}", String.class, "tom").getBody();
    }

    public String helloFallbak() {
        return "error";
    }
}

来验证一下通过断路器实现的服务回调逻辑，启动服务注册中心、两个HELLO-SERVICE服务以及ribbon-consumer，访问http://localhost:9000/ribbon-consumer可以轮询两个HELLO-SERVICE并返回文字信息。此时断开8081的HELLO-SERVICE，然后访问http://localhost:9000/ribbon-consumer，当轮询到断开的8081服务端时，输出内容为error，Hystrix的服务回调生效

除了断开具体的服务实例来模拟某个节点无法访问的情况之外，还可以模拟一下服务阻塞（长时间未响应）的情况。对HELLO-SERVICE服务的/hello接口做一些修改

@GetMapping("/hello")
    public String hello(@RequestParam("name") String name) throws InterruptedException {
        int sleepTime = new Random().nextInt(2000);
        log.info("sleepTime:" + sleepTime);
        Thread.sleep(sleepTime);
        return "name:" + name;
    }

由于Hystrix默认超时时间为1000毫秒，所以这里采用了0至2000的随机数以让处理过程有一定概率发生超时来触发断路器

SpringCloud详解（三）：服务容错保护Hystrix

可以通过以下方式修改默认的超时时间

#在调用方配置，被该调用方的所有方法的超时时间，优先级低于下边的指定配置
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
#在调用方配置，被该调用方的指定方法（HystrixCommandKey方法名）的超时时间
hystrix.command.HystrixCommandKey.execution.isolation.thread.timeoutInMilliseconds

连续访问http://localhost:9000/ribbon-consumer，当控制台打印的sleepTime大于1000的时候，就会返回error，即服务消费者因调用的服务超时从而触发熔断请求，并调用回调逻辑返回结果

2、原理分析

Hystrix主要提供4个功能：断路器、隔离机制、请求聚合和请求缓存

  • 断路器用于提供熔断降级的功能，控制是否可以发起对依赖服务的请求，并收集当前服务对依赖服务的请求结果，然后做统计和计算
  • Hystrix利用线程池或信号量机制提供依赖服务的隔离，每个依赖服务都使用独立的线程池，这样的好处是某一个依赖服务发生故障时，对当前服务的影响会限制在这个线程池内部，不会影响对其他依赖服务的请求，这样的代价是在当前服务中创建了很多线程，需要不小的线程上下文切换的开销，特别是对低延时的调用有比较大的影响。Hystrix使用信号量机制去控制对某个依赖服务的并发访问情况，这样的隔离非常轻量级，不需要显示创建线程池，但是信号量机制无法处理依赖服务的请求响应时间变长的情况
  • 请求聚合：使用HystrixCollapser将前端的多个请求聚合成一个请求发送到后端
  • 请求缓存：HystrixCommand和HystrixObservableCommand实现了对请求的缓存，假如在某个上下文中有多个同时到达的相同参数的查询，利用请求缓存功能，可以减少对后端系统的压力

Hystrix的工作流程图如下：

SpringCloud详解（三）：服务容错保护Hystrix

1）构建HystrixCommand或HystrixObservableCommand对象，这两个对象用来表示对依赖服务的请求。如果只需要单个返回值，则构建HystrixCommand对象；如果需要多个返回值，则需要构建HystrixObservableCommand对象

2）有四个方法（execute、queue、observe、toObservable）可以用来执行命令，其中前两个方法只有HystrixCommand提供，HystrixObservableCommand没有这两个方法

3）检查当前请求是否有缓存，如果有，则直接返回缓存的响应值，如果没有，则执行步骤4

4）检查断路器状态，如果断路器打开，则尝试执行fallback逻辑，即步骤8；如果断路器未打开，则执行步骤5

5）检查线程池是否满，或者信号量是否用完，如果用完，则拒绝服务，尝试fallback逻辑，即步骤8；如果线程池或信号量可用，则执行步骤6

6）通过construce()或run()方法发起对依赖服务的调用。如果执行失败或超时，则执行步骤8，如果没有失败，也没有超时，则可以在执行时间内返回结果

7）每次发起对依赖服务的调用，Hystrix都会对执行结果进行收集和统计，用来改变断路器或线程池（信号量）的状态

8）fallback逻辑是我们预先设置好的备用服务或默认值，如果fallback逻辑执行失败，则本次请求失败，否则成功返回结果

3、使用详解

1）、创建请求命令

通过@HystrixCommand注解来实现Hystrix命令

@HystrixCommand
    public User getUserById(Integer id) {
        return restTemplate.getForEntity("http://HELLO-SERVICE/user/{1}", User.class, id).getBody();
    }

如上定义的getUserById方式只是同步执行的实现，若要实现异步执行则还需另外定义，比如：

@HystrixCommand
    public Future<User> getUserByIdAsync(Integer id) {
        return new AsyncResult<User>() {
            @Override
            public User invoke() {
                return restTemplate.getForEntity("http://HELLO-SERVICE/user/{1}", User.class, id).getBody();
            }
        };
    }

2）、定义服务降级

fallback是Hystrix命令执行失败时使用的后备方法，用来实现服务的降级处理逻辑

如果要通过注解实现服务降级只需要使用@HystrixCommand中的fallbackMethod参数来指定具体的服务降级实现方法，服务降级实现方法需要与原方法的参数保持一致

@HystrixCommand(fallbackMethod = "defaultUser")
    public User getUserById(Integer id) {
        return restTemplate.getForEntity("http://HELLO-SERVICE/user/{1}", User.class, id).getBody();
    }

    public User defaultUser(Integer id){
        return new User();
    }

3）、异常处理

在HystrixCommand实现的run()方法中抛出异常时，除了HystrixBadRequestException之外，其他异常均会被Hystrix认为命令执行失败并触发服务降级的处理逻辑

可以通过设置@HystrixCommand注解的ignoreExceptions参数执行忽略异常的类型

@HystrixCommand(fallbackMethod = "defaultUser", ignoreExceptions = {BadRequestException.class})
    public User getUserById(Integer id) {
        return restTemplate.getForEntity("http://HELLO-SERVICE/user/{1}", User.class, id).getBody();
    }

4）、命令名称、分组以及线程池划分

@HystrixCommand注解的commandKey、groupKey以及threadPoolKey属性分别表示了命令名称、分组以及线程池划分

@HystrixCommand(commandKey = "getUserById", groupKey = "UserGroup", threadPoolKey = "getUserByIdThread")
    public User getUserById(Integer id) {
        return restTemplate.getForEntity("http://HELLO-SERVICE/user/{1}", User.class, id).getBody();
    }

通过设置命令组，Hystrix会根据组来组织和统计命令的告警、仪表盘等信息。Hystrix命令默认的线程划分是根据命令分组来实现的。默认情况下，Hystrix会让相同组名的命令使用同一个线程池，所以需要在创建Hystrix命令时为其制定命令组名来实现默认的线程池划分

threadPoolKey属性可以指定该Hystrix命令的线程池划分

4、属性详解

Hystrix的属性存在下面4个不同优先级别的配置（优先级由低到高）

  • 全局默认值：如果没有设置下面三个级别的属性，那么这个属性就是默认值
  • 全局配置默认值：通过在配置文件中定义全局属性值
  • 实例默认值：通过代码为实例定义的默认值
  • 实例配置属性：通过配置文件来为指定的实例进行属性配置

1）、command属性

1）

execution.isolation.strategy

：该属性用来设置HystrixCommand.run()执行的隔离策略，有如下两个选项

  • THREAD：通过线程池隔离的策略。它在独立的线程上执行，并且它的并发限制受线程池中线程数量的限制（默认值）
  • SEMAPHORE：通过信号量隔离的策略。它在调用线程上执行，并且它的并发限制受信号量计数的限制

全局配置属性：

hystrix.command.default.execution.isolation.strategy

实例默认值：

实例配置属性：

hystrix.command.HystrixCommandKey.execution.isolation.strategy

2）

execution.isolation.thread.timeoutInMilliseconds

：该属性用来配置HystrixCommand执行的超时时间，默认值为1000毫秒。当HystrixCommand执行时间超过该配置值之后，Hystrix会将该执行命令标记为TIMEOUT并进入服务降级处理逻辑

全局配置属性：

hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds

实例默认值：

实例配置属性：

hystrix.command.HystrixCommandKey.execution.isolation.thread.timeoutInMilliseconds

3）

execution.isolation.semaphore.maxConcurrentRequests

：当HystrixCommand的隔离策略使用信号量的时候，该属性用来配置信号量的大小（并发请求数，默认为10）。当最大并发请求数达到该设置值时，后续的请求将会被拒绝

全局配置属性：

hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests

实例默认值：

实例配置属性：

hystrix.command.HystrixCommandKey.execution.isolation.semaphore.maxConcurrentRequests

2）、threadPool属性

1）coreSize：该参数用来设置执行命令线程池的核心线程数，该值也就是命令执行的最大并发量（默认值为10）

全局配置属性：

hystrix.threadpool.default.coreSize

实例默认值：

实例配置属性：

hystrix.threadpool.HystrixThreadPoolKey.coreSize

2）maxQueueSize：该参数用来设置线程池的最大队列大小。当设置为-1时，线程池将使用SynchronousQueue实现的队列，否则将使用LinkedBlockingQueue实现的队列（默认值为-1）

全局配置属性：

hystrix.threadpool.default.maxQueueSize

实例默认值：

实例配置属性：

hystrix.threadpool.HystrixThreadPoolKey.maxQueueSize

5、Hystrix仪表盘

Hystrix Dashboard主要用来实时监控Hystrix的各项指标信息

构建一个Hystrix Dashboard来对ribbon-consumer实现监控，完成后的架构如下图：（其他相关项目的构建青查看SpringCloud的前两篇博客）

SpringCloud详解（三）：服务容错保护Hystrix

构建一个SpringBoot工程，命名为hystrix-dashboard

添加如下依赖：

<dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
        </dependency>

在主类上添加@EnableHystrixDashboard注解，启用Hystrix Dashboard功能

修改应用端口号：

server.port=2000

访问http://localhost:2000/hystrix

Hystrix Dashboard的监控首页如下图：

SpringCloud详解（三）：服务容错保护Hystrix

被监控的服务实例中（ribbon-consumer）需要添加如下依赖：

<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>

主类中需要进行如下配置，主要是主类需要添加@EnableCircuitBreaker注解，并对ServletRegistrationBean配置

@EnableCircuitBreaker
@EnableDiscoveryClient
@SpringBootApplication
//@SpringCloudApplication
public class RibbonConsumerApplication {

    public static void main(String[] args) {
        SpringApplication.run(RibbonConsumerApplication.class, args);
    }

    @Bean
    @LoadBalanced
    RestTemplate restTemplate() {
        return new RestTemplate();
    }

    @Bean
    public ServletRegistrationBean getServlet() {
        HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
        ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
        registrationBean.setLoadOnStartup(1);
        registrationBean.addUrlMappings("/hystrix.stream");
        registrationBean.setName("HystrixMetricsStreamServlet");
        return registrationBean;
    }

}

在Hystrix Dashboard的首页输入http://localhost:9000/hystrix.stream，可以看到已启动对ribbon-consumer的监控

SpringCloud详解（三）：服务容错保护Hystrix

首页上另外两个参数：

  • Delay：该参数用来控制服务器上轮询监控信息的延迟时间，默认值为2000毫秒
  • Title：该参数对应了上图头部标题Hystrix Stream之后的内容，默认会使用具体监控实例的URL

监控页面：

  • 实心圆：通过颜色的变化代表了实例的健康程度，从绿色、黄色、橙色、红色递减，实心圆的大小也会根据实例的请求流量发生变化，流量越大该实心圆就越大
  • 曲线：用来记录2分钟内流量的相对变化，可以通过它来观察流量的上升和下降趋势
  • 其他一些数量指标如下图
    SpringCloud详解（三）：服务容错保护Hystrix
当使用Hystrix Dashboard来监控SpringCloud Zuul构建的API网关时，ThreadPool信息会一直处于Loading状态。这是由于Zuul默认会使用信号量实现隔离，只有通过Hystrix配置把隔离机制改为线程池的方式才能够得以展示
微服务相关技术详解 Hystrix服务容错保护 服务熔断 服务降级 线程和信号隔离
上一篇: 17.玩转Spring Boot 集成Dubbo玩转Spring Boot 集成Dubbo
下一篇: Spring Boot中使用Dubbo

继续阅读