💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
所谓高可用性指的是系统如何保证比较高的服务可用率,在出现故障时如何应对,包括及时发现、故障转移、故障恢复等等 * 及时发现 * 故障转移 * 故障恢复 #### 高可用手段 1. 冗余 2. 降级 3. 限流 4. 回滚 5. 监控 #### 服务降级 服务降级有两种手段:拒绝服务和关闭服务,又可分为服务降级或业务降级(关闭业务/业务临时下线) #### 高可用原则 1. 通过负载均衡和反向代理实现分流 2. 通过限流保护服务免受雪崩之灾 3. 通过降级实现部分服务可用或有损服务 4. 通过隔离实现故障隔离 5. 通过设置合理的超时与重试避免请求堆积造成雪崩 6. 通过回滚机制快速修复错误版本 【参考资料】 【美团公众号】 [https://tech.meituan.com/high-availability-systems-dianping.html](https://tech.meituan.com/high-availability-systems-dianping.html)