[TOC] ***** # 1. 雪崩效应 ``` 服务雪崩效应是一种因“服务提供者的不可用”（原因）导致“服务调用者不可用”（结果），并将不可用逐渐放大的现象 ``` ``` 形成原因 服务雪崩的过程可以分为三个阶段： 服务提供者不可用； 重试加大请求流量； 服务调用者不可用； 服务雪崩的每个阶段都可能由不同的原因造成，总结如下： ```  **应对策略**  # 2. 常见容错方案 ``` 1. 超时: 释放够快就不会挂掉 2. 限流: 只有一碗的饭量,给我三碗我吃不下 3. 仓壁模式: 如每个controller都有自己比较小的线程池,当线程池满了就会拒绝请求(线程池本身有拒绝机制),不把鸡蛋放在一个篮子里 4. 断路器模式: 监控+开关, 如对API进行监控,5s以内错误率/错误次数达到一定的阈值,就跳闸,不去调用其他服务,并且有半开机制 ``` **断路器模式:**  # 3. 使用Sentinel实现容错 ``` 1. Sentinel是什么? 参考 [http://blog.didispace.com/spring-cloud-alibaba-sentinel-1/] ``` ``` 2. 应用整合Sentinel (熔断/ 降级) 加依赖 compile("org.springframework.cloud:spring-cloud-starter-alibaba-sentinel") ``` # 4. Sentinel控制台 ``` 下载sentinel, 1.6.0版本之后才有登录页面 启动 java -jar sentinel-dashboard-1.6.0.jar 登录 http://localhost:8080 用户名/密码=[sentinel/sentinel] ```  ``` 添加配置: spring: cloud: sentinel: transport: #指定sentinel 控制台地址 dashboard: localhost:8080 ```  ## 4.1 流控规则 ``` 资源名: 控制台自动填写我们请求的路径(唯一的名称) 针对来源: 比如有俩个服务(A / B)调用用户中心,可以为A设置200QPS, B设置300QPS,针对来源设置不同值,(default默认表示不区分来源) 阈值类型: QPS表示当达到QPS阈值时就是限流; 线程数表示当达到线程数的阈值时就是限流 是否集群: 表示是否支持集群模式 流控模式: 直接模式: 如把QPS设置成1, 当请求达到1次就限流,会报Blocked by sentinel (flow limiting)的异常 关联模式: [关联资源:当关联资源达到一定值时就限流自己],比如关联资源设置为/users/getUerInfo,请求路径达到阈值就限流当前资源 使用场景: 有俩个API(查询/修改),衡量优先读还是优先修改,如优先修改,关联资源处设置成[修改的API],资源名处设置成[查询的API] 链路模式: [只记录指定链路上的流量]API级别 流控效果: 快速失败: 直接抛异常 WarmUp: 预热, 根据codefactor(冷加载因子|默认3)的值,从阈值/codeFactor,经过预热时长,才达到设置的QPS阈值 如 阈值设置为100,预热时长设置为10s, 那么就会 100/3 作为最初阈值,经过10s后才达到100限流 场景: 如秒杀服务平时流量不会很高,但有活动的某一瞬间流量激增,不处理服务会挂掉,预热可以让流量缓慢的增加 排队等待: 匀速排队,让请求以均匀的速度通过,阈值类型必须设置成QPS,否则无效 原理: 如阈值类型设置QPS,单机阈值设置1,超时时间设置为200s;相当于1s请求1次,当时间超过200s后才会被丢弃 场景: (应对突发流量)一会流量很大,一会很空闲,希望应用能够在空闲时处理请求而不是直接拒绝请求 ```  ## 4.2 降级规则详解 (断路器) ``` 资源名: 当前资源路径 降级策略: RT: 若持续进入 5 个请求，它们资源的平均响应时间都超过阈值（秒级平均 RT，以 ms 为单位），资源调用会被熔断。 在接下的降级时间窗口(在降级规则中配置,以s为单位)之内,对这个方法的调用都会自动地返回（抛出 DegradeException） 注意点: RT默认最大4900ms -- 通过 -Dcsp.sentinel.statistic.max.rt=xxx 修改 异常比例模式: 当资源的每秒异常数占通过量的比值超过阈值之后,资源进入降级状态,即在接下的降级时间窗口(在降级规则中配置,以s为单位)之内, 对这个方法的调用都会自动地返回.异常比率的阈值范围是 [0.0, 1.0],代表 0% - 100%. 异常数模式: 当资源最近 1 分钟的异常数目超过阈值之后会进行熔断. 注意: 时间窗口<60s可能会出现问题 注意: 断路器有三种状态: 打开 | 关闭 | 半开, 但目前sentinel没有设置半开状态. ```  ## 4.3 热点规则详解 ``` ** 热点规则就是对指定的参数或者参数值限流; sentinel默认显示的端点是不支持热点规则的,需要自定义代码实现 @GetMapping("test-hot") @SentinelResource("hot") //使用该注解,请求刷新Sentinel控制台,才会出现热点规则配置 public String testHost(@RequestParam(required = false) String a, @RequestParam(required = false) String b) { return a + ":" + b; } ``` ``` 资源名: @SentinelResource中定义的值即hot 参数索引: 参数a的索引就是0, 参数b的索引就是1, 若设置为0代表限流API带参数a的请求,若不带a,则不会被限流. 在时间窗口以内指定参数的QPS达到一定的阈值就会触发限流 高级选项: 如参数类型设置String, 参数值设置5, 限流阈值设置1000ms, 代表参数值是不是5时阈值就是1ms; 参数值是5时阈值就是1000ms 场景: API的某参数的QPS很高时, 可以使用热点规则,提高API的可用性;即对传递该参数或参数值的API限流,不影响调用该API传递其他参数或参数值 注意: 参数索引中配置的参数必须是[基本类型或者String,否则不会生效] ```  ## 4.4 系统规则详解 ``` 阈值类型: LOAD(负载): 当系统load1(1分钟的负载)超过阈值,且并发线程数超过系统容量时触发,建议设置为CPU核心数*2.5(仅对linux/unix-like机器生效) 命令查看load: uptime RT: 所有入口流量的平均RT达到阈值触发 线程数: 所有入口流量的并发线程数达到阈值触发 入口QPS: 所有入口流量的QPS达到阈值触发 ```   ## 4.5 授权规则详解  # 5. 代码配置规则 ``` 参考: https://www.imooc.com/article/289345 ``` # 6. Sentinel与控制台通信原理剖析 ``` 控制台是如何获取到微服务的监控信息的? 用控制台配置规则时,控制台是如何将规则发送到各个微服务的呢? http://ip:sentinel端口/api 源码: 注册/心跳发送的API: com.alibaba.csp.sentinel.transport.heartbeat.SimpleHttpHeartbeatSender 通信的API: com.alibaba.csp.sentinel.command.CommandHandler的实现类, 如: ApiCommandHandler ```  # 7. 控制台相关配置项 **7-1. 应用端连接控制台配置项**  **7-2. 控制台的配置项**  **7-3. 修改控制台的配置项操作 ** ``` 如:修改控制台的用户名和密码,如下图 ```  # 8. SentinelAPI详解 ``` 核心API: 1. SphU: 定义资源,让资源受到监控并且可以保护资源 2. Tracer: 对我们想要的异常进行统计 3. ContextUtil: 可以实现调用来源,标记调用 ``` ``` spring: cloud: sentinel: transport: #指定sentinel 控制台地址 dashboard: localhost:8080 filter: #关闭掉spring MVC端点的保护,测试为了防止干扰,正常要为true(或者默认) enabled: false ``` ``` //代码实现降级及限流及来源功能 String resourceName = "test-sentinel-api"; ContextUtil.enter(resourceName, "test-wfw"); //定义一个Sentinel保护的资源,名称可以任意,唯一即可 Entry entry = null; try { entry = SphU.entry(resourceName); if(StringUtils.isEmpty(a)) { throw new IllegalArgumentException("参数不合法"); } // 被保护的业务逻辑 //TODO: return a; } catch (BlockException e) { //如果被保护的资源被限流或者降级会抛出BlockException } catch (IllegalArgumentException e) { //统计IllegalArgumentException[发生的次数,发生占比...] Tracer.trace(e); return "参数不合法"; } finally { if(entry != null) { entry.exit(); } ContextUtil.exit(); } ``` # 9. @SentinelResource注解详解 ``` 参考: https://www.imooc.com/article/289384 ``` ``` 重写上面代码: @GetMapping("test-sentinel-api") @SentinelResource(value = "test-sentinel-api", blockHandler = "block", fallback = "fallback") public String testSentinelAPI(@RequestParam(required = false) String a) { if(StringUtils.isEmpty(a)) { throw new IllegalArgumentException("参数不合法"); } return a; } //处理限流或者降级 public String block(String a, BlockException e) { return "限流或者降级了 block"; } //1.5处理降级 sentinel 1.6可以处理Throwable public String fallback(String a) { return "限流或者降级了 fallback"; } ``` ``` 源码: com.alibaba.csp.sentinel.annotation.aspectj.SentinelResourceAspect com.alibaba.csp.sentinel.annotation.aspectj.AbstractSentinelAspectSupport ``` # 10. RestTemplate整合Sentinel ``` 源码: org.springframework.cloud.alibaba.sentinel.custom.SentinelBeanPostProcessor ``` ``` @Bean @LoadBalanced @SentinelRestTemplate public RestTemplate restTemplate() { return new RestTemplate(); } 配置开关: resttemplate: sentinel: # 关闭@SentinelRestTemplate注解 enabled: false ``` # 11. Feign整合Sentinel ``` 源码: org.springframework.cloud.alibaba.sentinel.feign.SentinelFeign ``` ``` 1. 只需要添加下面的配置: feign: sentinel: #为feign整合sentinel enabled: true ``` ``` 2. 限流降级发生时,如何定制自己的处理逻辑? @FeignClient(name = "ali-pay-service", configuration = UserCenterFeignConfiguration.class, fallback = UserCenterFeginClientFallback.class) public interface UserCenterFeginClient { /** * http://ali-pay-service/users/{id} * @param id * @return */ @GetMapping("/users/{id}") String findById(@PathVariable Integer id); } @Component public class UserCenterFeginClientFallback implements UserCenterFeginClient { @Override public String findById(Integer id) { return null; } } ``` ``` 3. 进入到Fallback中是异常情况,如何获取到异常? /** * name: 请求服务的名称 * fallback与fallbackFactory不可同时用 * fallbackFactory可以获取到异常 */ @FeignClient(name = "ali-pay-service", configuration = UserCenterFeignConfiguration.class, // fallback = UserCenterFeginClientFallback.class, fallbackFactory = UserCenterFeginClientFallbackFactory.class ) public interface UserCenterFeginClient { /** * http://ali-pay-service/users/{id} * @param id * @return */ @GetMapping("/users/{id}") String findById(@PathVariable Integer id); } @Component public class UserCenterFeginClientFallbackFactory implements FallbackFactory<UserCenterFeginClient> { @Override public UserCenterFeginClient create(Throwable cause) { return new UserCenterFeginClient() { @Override public String findById(Integer id) { return null; } }; } } ``` # 12. 规则持久化 ``` 1. 规则持久化-拉模式 参考: https://www.imooc.com/article/289402 2. 规则持久化-推模式 参考: https://www.imooc.com/article/289464 3. 阿里云上提供免费的Sentinel的使用(AHAS) 开通地址: https://ahas.console.aliyun.com/ 开通说明: https://help.aliyun.com/document_detail/90323.html ``` # 13. 集群流控 ``` 配置规则时设置集群模式,如控制台配置: ```  ``` 要想集群模式需要引入Token Client组件去和Token Server通信, 如何部署Token Server? 微服务如何继承Token Client? 参考官方https://github.com/alibaba/Sentinel/wiki 注: 目前Token Server还不能用在生产环境,很多功能需要自己实现,集群流控搭建参考:https://www.jianshu.com/p/bb198c08b418 但目前[实现集群的流控方案可以在网关处进行设置]更加简单,实用. 下图为集群流控模式的架构图: ```  # 14. 扩展Sentinel ``` UrlBlockHandler : 提供Sentinel异常处理 RequestOriginParser : 区分来源 UrlCleaner : 重新定义资源名称 本质都是通过CommonFilter过滤器调用的,源码参照: com.alibaba.csp.sentinel.adapter.servlet.CommonFilter ``` ``` 1. 扩展Sentinel-错误页优化 @Component public class MyUrlBlockHandler implements UrlBlockHandler { @Override public void blocked(HttpServletRequest request, HttpServletResponse response, BlockException ex) throws IOException { ErrorMsg message = null; //限流异常 if(ex instanceof FlowException) { message = ErrorMsg.builder().code(100).msg("限流异常").build(); } //降级异常 else if(ex instanceof DegradeException) { message = ErrorMsg.builder().code(101).msg("降级异常").build(); } //系统规则异常 else if(ex instanceof SystemBlockException) { message = ErrorMsg.builder().code(102).msg("系统规则异常").build(); } //参数热点规则异常 else if(ex instanceof ParamFlowException) { message = ErrorMsg.builder().code(103).msg("参数热点规则异常").build(); } //授权规则异常 else if(ex instanceof AuthorityException) { message = ErrorMsg.builder().code(104).msg("授权规则异常").build(); } //TODO: 通过response将异常信息写出去 } } @Data @Builder @AllArgsConstructor @NoArgsConstructor class ErrorMsg { private Integer code; private String msg; } ``` ``` 2. 扩展Sentinel-实现区分来源 @Component public class MyRequestOriginParser implements RequestOriginParser { @Override public String parseOrigin(HttpServletRequest request) { //来源的参数在实际应用中可以放在Header中 //从请求参数中过去名为 origin 的参数并返回 //如果获取不到 origin 参数,那么就抛出异常 String origin = request.getParameter("origin"); //String origin = request.getHeader("origin"); if (StringUtils.isEmpty(origin)) { throw new IllegalArgumentException("origin must be set"); } return origin; } } ``` ``` 3. 扩展Sentinel-RESTfulURL支持(针对所有资源设置相同的流控规则) @Component public class MyUrlCleaner implements UrlCleaner { @Override public String clean(String originUrl) { //目标:path/1和path/2的返回值相同,返回/path/{number} String[] split = originUrl.split("/"); return Arrays.stream(split).map(string -> { if (NumberUtils.isNumber(string)) { return "{number}"; } return string; }).reduce((a,b) -> a+"/"+b).orElse(""); } } ``` # 15. Sentinel全部配置项 ``` 参照: https://www.imooc.com/article/289562 ```