4 JMeter高并发测试

直到目前为止，一切都是"易凡峰顺"的，来点异常场景。

4.1 JMeter简介

JMeter是开源软件Apache基金会下的一个性能测试工具，用来测试部署在服务器端的应用程序的性能。近来，JMeter因为其使用简单，现在也被社区作为接口测试工具… 举个栗子，你开了一个网店，兴冲冲地准备双十一大干一把，没想当天活动的时候大量用户一访问你的网店，你的网店挂了，那怎么办？办法就是在实际搞活动之前，先测试一下以确认系统能承受那么多的用户，当然测试的时候我们不需要请真正的这么多实际用户，否则得花多少钱啊，JMeter就是那个能帮助模拟大量用户访问你网站的一个软件。

4.2 下载、安装JMeter

JMeter下载地址：http://jmeter.apache.org/download_jmeter.cgi

下载后解压到你系统下的任意目录，然后运行%JMETER_HOME%\bin\jmeter.bat文件

4.3 JMeter压力测试

新建测试计划，鼠标右键点击计划设置200*100 = 20000并发量。

新增http请求。

配置如下。

保存，启动压测。

后台不断地看到接收到的请求。

这个时候你访问：http://localhost:8001/payment/hystrix/ok/1

发现也开始转圈圈了，访问速度肉眼可见变慢。

这是因为tomcat的默认工作线程被占满了，没有多余的线程来分解压力和处理了。

如果此时外部消费者80也来访问，只能干等，最终导致消费者80不满意。8001被拖死。

5 客户端测试集成

5.1 建项目

新建cloud-consumer-feign-hystrix-order80(一般将Hystrix用于客户端，但其实她也可以应用于服务端)

5.2 写pom

<dependencies>
    <!-- openfeign -->
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-openfeign</artifactId>
    </dependency>
    <!--   hystrix     -->
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>
    <!--eureka client-->
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
    </dependency>
    <!-- 引用自己定义的api通用包，可以使用Payment支付Entity -->
     <dependency>
            <groupId>com.wangzhou.springcloud</groupId>
            <artifactId>cloud-api-commons</artifactId>
            <version>${project.version}</version>
     </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-actuator</artifactId>
    </dependency>
    <!--热部署-->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-devtools</artifactId>
        <scope>runtime</scope>
        <optional>true</optional>
    </dependency>
    <dependency>
        <groupId>org.projectlombok</groupId>
        <artifactId>lombok</artifactId>
        <optional>true</optional>
    </dependency>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-test</artifactId>
        <scope>test</scope>
    </dependency>
</dependencies>

5.3 写yml

server:
  port: 80
eureka:
  client:
    register-with-eureka: false
    service-url:
      defaultZone: http://localhost:7001/eureka
#需要加上，否则会报错
ribbon:
  ReadTimeout: 4000
  ConnectTimeout: 4000

5.4 主启动

@SpringBootApplication
@EnableFeignClients
@EnableEurekaClient
public class OrderHystrixMain80 {
    public static void main(String[] args) {
        SpringApplication.run(OrderHystrixMain80.class, args);
    }
}

5.5 业务类

(1)service

@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
public interface PaymentHystrixService {
    @GetMapping("/payment/hystrix/ok/{id}")
    public String paymentOk(@PathVariable("id")Integer id);
    @GetMapping("/payment/hystrix/timeout/{id}")
    public String paymentInfo_timeout(@PathVariable("id") Integer id);
}

(2)Controller

@Slf4j
@RestController
public class OrderHystrixController {
    @Resource
    private PaymentHystrixService paymentHystrixService;
    @GetMapping("/consumer/payment/hystrix/ok/{id}")
    public String paymentOk(@PathVariable("id")Integer id) {
        String result = paymentHystrixService.paymentOk(id);
        return result;
    }
    @GetMapping("/consumer/payment/hystrix/timeout/{id}")
    public String paymentInfo_timeout(@PathVariable("id") Integer id) {
        String result = paymentHystrixService.paymentInfo_timeout(id);
        return result;
    }
}

5.6 正常测试

启动80

http://localhost/consumer/payment/hystrix/ok/1

http://localhost/consumer/payment/hystrix/tmeout/1

5.7 高并发测试

启动JMeter对8001的压力测试，再通过80访问

http://localhost/consumer/payment/hystrix/ok/1

开始转圈圈了。狂点还可能报错。

服务端这么慢，用户不得骂你吗？我们来看看怎么解决。

6 Hystrix的服务降级

6.1 降级容错解决的维度要求

6.2 服务端的降级处理

在8001的timeout接口新增@HystrixCommand注解,进行如下改造，设置兜底机制。

   /*
      通过@HystrixCommand来指定哪个方法由Hystrix来接管
         fallbackMethod属性： 指定哪个方法作为兜底方法
     */
    @HystrixCommand(fallbackMethod ="paymentInfo_TimeoutHandler", commandProperties = {
            //设置自身超时调用时间的峰值为 3 秒，峰值内可以正常运行，超过了需要有兜底的方法处理，服务降级fallback
            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")
    })
    public String paymentInfo_Timeout(Integer id) throws InterruptedException {
        int timeout = 3;
        // Hystrix底层调用的是Tomcat的线程池，我们在这里将线程名放回
        TimeUnit.SECONDS.sleep(timeout);
        return "线程：  "+Thread.currentThread().getName()+"  paymentInfo_OK， id = "+id + "\t" + "耗时"+ timeout +"s";
    }
    public String paymentInfo_TimeoutHandler(Integer id) {
        return "线程：  "+Thread.currentThread().getName()+"  paymentInfo_TimeoutHandler， id = "+id + "\t/(ㄒoㄒ)/~~";
    }

主启动类增加@EnableCircuitBreaker注解触发熔断功能

测试下，访问：http://localhost/consumer/payment/hystrix/timeout/1

可以注意到，此时处理的线程也变成了Hystrix...开头了。说明对于超时的情况使用了其它线程池的线程进行单独处理了。

将接口的核心方法改造下。从超时的情况改造称为异常。

    @HystrixCommand(fallbackMethod ="paymentInfo_TimeoutHandler", commandProperties = {
            //设置自身超时调用时间的峰值为 3 秒，峰值内可以正常运行，超过了需要有兜底的方法处理，服务降级fallback
            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")
    })
    public String paymentInfo_Timeout(Integer id) throws InterruptedException {
        int timeout = 3;
        int temp = 3 / 0;
        // Hystrix底层调用的是Tomcat的线程池，我们在这里将线程名放回
//        TimeUnit.SECONDS.sleep(timeout);
        return "线程：  "+Thread.currentThread().getName()+"  paymentInfo_OK， id = "+id + "\t" + "耗时"+ timeout +"s";
    }

再测试。

这说明对于异常或者超时的情况都将会使用兜底方案。

6.3 客户端的降级处理

之前我们说过，一般会将服务降级放在客户端，这是为了在上游及时发先问题，及时处理。现在就来实践下。

在80的yml中添加。

@SpringBootApplication
@EnableFeignClients
@EnableEurekaClient
@EnableHystrix
public class OrderHystrixMain80 {
    public static void main(String[] args) {
        SpringApplication.run(OrderHystrixMain80.class, args);
    }
}

改造80 controller中的paymentInfo_timeout接口。

   @GetMapping("/consumer/payment/hystrix/timeout/{id}")
    @HystrixCommand(fallbackMethod ="paymentInfo_TimeoutHandler", commandProperties = {
            //设置自身超时调用时间的峰值为 2 秒，峰值内可以正常运行，超过了需要有兜底的方法处理，服务降级fallback
            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000")
    })
    public String paymentInfo_timeout(@PathVariable("id") Integer id) {
        String result = paymentHystrixService.paymentInfo_timeout(id);
        return result;
    }
    public String paymentInfo_TimeoutHandler(Integer id) {
        return "我是消费者80，对方系统繁忙，请稍后再试，/(ㄒoㄒ)/~~";
    }

测试。

在测试之前记得将支付微服务8001的paymentInfo_timeout逻辑从异常改为sleep哟。

测试结果如下。

6.4 全局服务降级的配置

上面的代码有如下问题。

业务逻辑和异常处理被我们混在一块了，耦合度极高。
每一个方法都需要有兜底方法

解决方法，使用@DefaultProperties设置全局的fallback方法。

80的OrderHystrixController中添加全局fallback方法：

    //全局fallback方法，不能有传参
    public String payment_Global_FallbackMethod(){
        return "Global异常处理信息，请稍后再试！";
    }

并在OrderHystrixController类上加上@DefaultProperties(defaultFallback = “payment_Global_FallbackMethod”)，指定设置全局fallback方法。

将之前的@HystrixCommand注掉,稍微对方法进行下改动。重启微服务80.

    @GetMapping("/consumer/payment/hystrix/timeout/{id}")
//    @HystrixCommand(fallbackMethod ="paymentInfo_TimeoutHandler", commandProperties = {
//            //设置自身超时调用时间的峰值为 2 秒，峰值内可以正常运行，超过了需要有兜底的方法处理，服务降级fallback
//            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000")
//    })
    @HystrixCommand
    public String paymentInfo_timeout(@PathVariable("id") Integer id) {
        int var = 10/0;
        String result = paymentHystrixService.paymentInfo_timeout(id);
        return result;
    }

结果如下。

6.5 通配服务降级

前面一节我们已经解决了代码膨胀的问题，接下来解决下代码耦合度过高的问题。

在80的service包下新建PaymentFallbackService类，实现PaymentHystrixService接口

public class PaymentFallbackService implements PaymentHystrixService{
    @Override
    public String paymentOk(Integer id) {
        return "------PaymentFallbackService  paymentOk /(ㄒoㄒ)/~~";
    }
    @Override
    public String paymentInfo_timeout(Integer id) {
        return "------PaymentFallbackService  paymentInfo_timeout /(ㄒoㄒ)/~~";
    }
}

在PaymentHystrixService中的@FeignClient注解增加fallback参数即可。

访问ok接口：http://localhost/consumer/payment/hystrix/ok/1，没有任何毛病

7 Hystrix的服务熔断

7.1 熔断理论

前面介绍过服务熔断，这里再解释下，帮助读者理解。

(1)调用正常方法失败会触发降级，而降级会触发fallback方法

(2)但无论如何，降级一定是先调用正常方法，再调用fallback方法

(3)假如单位时间降级次数过多，会触发熔断

(4)熔断以后将会跳过正常方法直接调用fallback方法

(5)所谓的熔断后服务不可用，就是因为跳过了正常方法，而直接执行了fallback方法

7.2 服务熔断案例

在8001的PaymentService中添加

 //====服务熔断
    @HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
            @HystrixProperty(name = "circuitBreaker.enabled", value = "true"),                      //开启断路器
            @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),         //请求总数阈值（默认20）
            @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"),   //休眠时间窗口期（休眠多久进入半开模式（单位毫秒，默认5秒））
            @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60"),       //请求次数的错误率达到多少跳闸（百分率%，默认50%）
    })
    public String paymentCircuitBreaker(@PathVariable("id") Integer id) {
        if(id < 0){
            throw  new RuntimeException("****id 不能为负数");
        }
        String serialNumber = IdUtil.simpleUUID();
        return  Thread.currentThread().getName() + "\t" + "调用成功，流水号：" + serialNumber;
    }
    public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id){
        return "id 不能为负数,请稍后再试， id: " + id;
    }

对上面的参数解释如下。

在HystrixCommandProperties.class可用看到所有可配置的参数。

在8001的PaymentController中添加

@GetMapping("/payment/circuit/{id}")
public String paymentCircuitBreaker(@PathVariable("id") Integer id){
    String result = paymentService.paymentCircuitBreaker(id);
    log.info("******result：" + result);
    return result;
}