Spring Cloud LoadBalancer--负载均衡的原理（源码分析）

简介

说明

        本文介绍Spring Cloud LoadBalancer负载均衡的原理。

        SpringCloud从2020版本开始移除了对Ribbon的依赖，官方使用Spring Cloud Loadbalancer正式替换Ribbon，而且Spring Cloud Loadbalancer成为了Spring Cloud负载均衡器的唯一实现。

        本例使用的SpringCloud版本为：2020.0.1，SpringBoot版本为：2.4.13。

Loadbalancer提供的的负载均衡策略

• RandomLoadBalancer - 随机策略
• RoundRobinLoadBalancer - 轮询策略（默认）

实例代码

        本处的场景是：order（订单微服务）调用storage（库存微服务）扣减库存。

        本处只列出核心代码：依赖和feign定义，其他略。

依赖

pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <!--<version>2.3.7.RELEASE</version>-->
        <version>2.4.13</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>
    <groupId>com.knife</groupId>
    <artifactId>gateway</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <name>gateway</name>
    <description>Demo project for Spring Boot</description>

    <properties>
        <java.version>1.8</java.version>
    </properties>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>2020.0.1</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>

            <dependency>
                <groupId>com.alibaba.cloud</groupId>
                <artifactId>spring-cloud-alibaba-dependencies</artifactId>
                <version>2021.1</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-gateway</artifactId>
        </dependency>

        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
            <exclusions>
                <exclusion>
                    <groupId> springframework.cloud</groupId>
                    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
                </exclusion>
            </exclusions>
        </dependency>

        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-loadbalancer</artifactId>
        </dependency>

        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <version>1.18.24</version>
            <scope>provided</scope>
        </dependency>

    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <version>2.4.13</version>
            </plugin>
        </plugins>
    </build>

</project>      

feign接口

package com.knife.storage.api;

import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestParam;

@FeignClient("storage")
public interface StorageFeignClient {
    @PostMapping("/feign/storage/decreaseStorage")
    void decreaseStorage(@RequestParam("productId") Long productId, @RequestParam("count") Integer count);
}      

原理分析

打断点

在Feign接口上打断点

到达断点，多次点击“Step Into”（跳到方法内）（我点击了15次才进去）

FeignInvocationHandler#invoke

到达feign-core包里边的：feign.ReflectiveFeign.FeignInvocationHandler#invoke

执行到最后一行（点下图红色箭头所指按钮“Step Over”（跳过），一直到最后一行）

进入到invoke方法（如下图：先点击绿色箭头按钮，再点击红色 箭头所指invoke方法）

SynchronousMethodHandler#invoke

上边点击之后，进入feign.SynchronousMethodHandler#invoke（feign-core包）。

进入到executeAndDecode方法：

SynchronousMethodHandler#executeAndDecode

上边点击之后，进入到feign.SynchronousMethodHandler#executeAndDecode（feign-core包）。

进入到client.execute方法内：

FeignBlockingLoadBalancerClient#execute

上一步点击完之后，进入org.springframework.cloud.openfeign.loadbalancer.FeignBlockingLoadBalancerClient#execute（spring-cloud-openfeign-core包）。

其中，loadBalancerClient.choose是核心，它里边会去找一个storage实例去调用。

同样的方法，也是跳到方法内部去。

BlockingLoadBalancerClient#choose（重点）

        本方法是核心，先找到负载均衡策略，再按负载均衡策略挑选实例。

        执行到此方法（spring-cloud-loadbalancer包）：

org.springframework.cloud.loadbalancer.blocking.client.BlockingLoadBalancerClient#choose(java.lang.String, org.springframework.cloud.client.loadbalancer.Request<T>)

本方法做了两件事情：找到负载均衡策略、根据负载均衡策略找到实例。

LoadBalancerClientFactory#getInstance（选策略）

执行到方法内（spring-cloud-loadbalancer包）：org.springframework.cloud.loadbalancer.support.LoadBalancerClientFactory#getInstance

跳到 getInstance方法内部：

getContext的作用：根据name（本处是“storage”）找到@FeignClient标记的接口，返回Context（@LoadBalancerClient或者@LoadBalancerClients如果配置了负载均衡策略，则此处即生效）。

上图可以看到，获得到的负载均衡策略为：RoundRobinLoadBalancer（轮询负载均衡）。

我们退出方法，往下执行：

ReactiveLoadBalancer#choose（选实例）

上一步点击之后，进入到：

为什么是轮询策略？