三、熔断机制与Hystrix
雪崩效应:服务雪崩效应产生与服务堆积在同一个线程池中,因为所有的请求都是同一个线程池进行处理,这时候如果在高并发情况下,所有的请求全部访问同一个接口,这时候可能会导致其他服务没有线程进行接受请求,这就是服务雪崩效应效应。
服务熔断:熔断机制目的为了保护服务,在高并发的情况下,如果请求达到一定极限(可以自己设置阔值)如果流量超出了设置阈值,让后直接拒绝访问,保护当前服务。使用服务降级方式返回一个友好提示,服务熔断和服务降级一起使用。
1、Hystrix介绍与工作原理
1.Hystrix熔断器
Hystrix(豪猪)是Netflix开源的熔断器组件,用于为微服务提供熔断机制预防雪崩,保护整体微服务架构的健康
2.Hystrix功能
预防微服务由于故障,请求长时间等待导致Web容器线程崩溃
提供故障备选方案,通过回退(fallback)机制提供”服务降级”
提供监控仪表盘,实时监控运行状态
3.Hystrix 熔断器工作原理
Hystrix 熔断器工作原理
服务的健康状况 = 请求失败数 / 请求总数.
熔断器开关由关闭到打开的状态转换是通过当前服务健康状况和设定阈值比较决定的.
当熔断器开关关闭时, 请求被允许通过熔断器. 如果当前健康状况高于设定阈值, 开关继续保持关闭. 如果当前健康状况低于
设定阈值, 开关则切换为打开状态.
当熔断器开关打开时, 请求被禁止通过.
当熔断器开关处于打开状态, 经过一段时间后, 熔断器会自动进入半开状态, 这时熔断器只允许一个请求通过. 当该请求调用
成功时, 熔断器恢复到关闭状态. 若该请求失败, 熔断器继续保持打开状态, 接下来的请求被禁止通过.
熔断器的开关能保证服务调用者在调用异常服务时, 快速返回结果, 避免大量的同步等待. 并且熔断器能在一段时间后继续侦测请求执行结果, 提供恢复服务调用的可能.
4.什么情况下会触发服务降级
FAILURE: 执行失败,抛出异常
TIMEOUT:执行超时(默认1秒)
SHORT_CIRCUITED:熔断器状态为Open
THREAD_POOL_REJECTED:线程池拒绝
SEMAPHORE_REJECTED:信号量拒绝
5.使用Hystrix步骤
1.引入pom文件依赖
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId> </dependency>
2.在启动类上方写入@EnableHystrixDashboard 3.在方法上@HystrixCommand
public class MemberController { @Resource private RestTemplate restTemplate; @GetMapping("/snb") @ResponseBody /** * 模拟新书到货短信通知客户的业务 */ @HystrixCommand(fallbackMethod = "sendNewBookError") public String sendNewBook(String mobile,String bookname){ String message = "[HOTBOOK]您预购的" + bookname + "已到货,明日将送到您府上"; CallbackResult result = restTemplate.getForObject("http://message-service/sendsms?mobile=" +mobile+"&message=" + message , CallbackResult.class); if (result.getCode().equals("0")){ return "短信已成功送达,服务返回:" +result.getResult(); }else { return "短信发送失败,失败原因:" + result.getResult(); } } public String sendNewBookError(String mobile,String bookname){ return "短信发送失败,失败原因:消息服务无法正常运行,请稍后再试"; } }
6.OpenFeign与Hystrix整合
OpenFeign中使用Hystrix
OpenFeign内置Hystrix,feign.hystrix.enable开启即可
feign: hystrix: enabled: true
在@FeignClient增加fallback属性说明Fallback类
@FeignClient(name="message-service",fallback = MessageServiceFallback.class) public interface MessageService { @GetMapping("/sendsms") public CallbackResult sendSMS(@RequestParam("mobile") String mobile , @RequestParam("message") String message); }
Fallback类要实现相同接口,重写服务降级业务逻辑
@Component public class MessageServiceFallback implements MessageService { @Override public CallbackResult sendSMS(String mobile, String message) { return new CallbackResult("INVALID_SERVICE","消息服务暂时无法使用,短信发送失败"); } }
7.Hystrix超时设置
超时设置
Hystrix超时设置关系图
eureka: client: service-url: defaultZone: http://localhost:8761/eureka spring: application: name: member-service feign: hystrix: enabled: true client: config: default: connectTimeout: 500 readTimeout: 500 #(3000-2500)/3000=16.7% , (3000-500)/3000=83% hystrix: command: #"类名#方法名(参数类型1,参数类型2,参数类型n)" "MessageService#sendSMS(String,String)": #HystrixCommandKey execution: isolation: thread: timeoutInMilliseconds: 1000 #假设:连接500毫秒,处理短信4000毫秒,哪个timeOut会触发服务降级 circuitBreaker: forceOpen: false #true代表强制熔断器强制处于Open状态,即服务不可用 requestVolumeThreshold: 50 errorThresholdPercentage: 60 sleepWindowInMilliseconds: 10000 default: execution: isolation: thread: timeoutInMilliseconds: 6000 circuitBreaker: #在当20秒的时间内,最近50次调用请求,请求错误率超过60%,则触发熔断10秒,期间快速失败。 requestVolumeThreshold: 50 errorThresholdPercentage: 60 sleepWindowInMilliseconds: 10000 metrics: rollingStats: timeInMilliseconds: 20000
8.部署Hystrix Dashboard监控
Hystrix Client依赖hystrix-metrics-event-stream
Hystrix Client注册HystrixMetricsStreamServlet
监控微服务依赖spring-cloud-starter-netflix-hystrix-dashboard
监控微服务利用@EnableHystrixDashboard开启仪表盘
9.Hystrix熔断设置
产生熔断的条件:
当一个Rolling Window(滑动窗口)的时间内(默认:10秒),最近20次调用请求,请求错误率超过50%,则触发熔断5秒,期间快速失败。
TIPS: 如10秒内未累计到20次,则不会触发熔断
Hystrix熔断设置项:
Hystrix熔断设置项
eureka: client: service-url: defaultZone: http://localhost:8761/eureka spring: application: name: member-service feign: hystrix: enabled: true client: config: default: connectTimeout: 500 readTimeout: 500 #(3000-2500)/3000=16.7% , (3000-500)/3000=83% hystrix: command: #"类名#方法名(参数类型1,参数类型2,参数类型n)" "MessageService#sendSMS(String,String)": #HystrixCommandKey execution: isolation: thread: timeoutInMilliseconds: 1000 #假设:连接500毫秒,处理短信4000毫秒,哪个timeOut会触发服务降级 circuitBreaker: forceOpen: false #true代表强制熔断器强制处于Open状态,即服务不可用 requestVolumeThreshold: 50 errorThresholdPercentage: 60 sleepWindowInMilliseconds: 10000 default: execution: isolation: thread: timeoutInMilliseconds: 6000 circuitBreaker: #在当20秒的时间内,最近50次调用请求,请求错误率超过60%,则触发熔断10秒,期间快速失败。 requestVolumeThreshold: 50 errorThresholdPercentage: 60 sleepWindowInMilliseconds: 10000 metrics: rollingStats: timeInMilliseconds: 20000