hystrix

Hystrix [hɪst'rɪks]，中文含义是豪猪，因其背上长满棘刺，从而拥有了自我保护的能力。本文所说的Hystrix是Netflix开源的一款容错框架，同样具有自我保护能力。 本文目录 一、Hystrix简介 二、Hystrix的设计原则 三、Hystrix的工作原理 四、Ribbon中使用熔断器 五、Feign中使用熔断器 六、踩到的坑 一、Hystrix简介 Hystrix是由Netflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失败，从而提升系统的可用性、容错性与局部应用的弹性，是一个实现了超时机制和断路器模式的工具类库。 二、Hystrix的设计原则 防止任何单独的依赖耗尽资源（线程） 过载立即切断并快速失败，防止排队 尽可能提供回退以保护用户免受故障 使用隔离技术（例如隔板，泳道和断路器模式）来限制任何一个依赖的影响 通过近实时的指标，监控和告警，确保故障被及时发现 通过动态修改配置属性，确保故障及时恢复 防止整个依赖客户端执行失败，而不仅仅是网络通信 三、Hystrix的工作原理 使用命令模式将所有对外部服务（或依赖关系）的调用包装在HystrixCommand或HystrixObservableCommand对象中，并将该对象放在单独的线程中执行。 每个依赖都维护着一个线程池（或信号量），线程池被耗尽则拒绝请求（而不是让请求排队

[toc] 本文首发于我的个人博客， Spring Cloud 负载均衡初体验 ，欢迎访问！ 使用 Spring Cloud Netflix 组件 Eureka 和 Ribbon 构建单注册中心的负载均衡服务。 Spring Cloud 是基于 Spring 的微服务技术栈，可以这么概括吧，里面包含了很多例如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等组件，可以通过 Spring Boot 的形式进行集成和使用。 目前，项目中有这么个需求，Spring Boot 做一个 web 服务，然后调用 TensorFlow 模型得到结果。但是由于 TensorFlow GPU 版，不支持多线程多引擎，所以只能采用多进程的方式去进行调度，所以需要做一个负载均衡。负载均衡的话，可以分为客户端和服务端负载均衡。我目前还没能领悟到有什么不同，毕竟整体的架构都是一样的，如下如图。其中客户端均衡负载的代表是 Spring Cloud 的 Ribbon，服务端负载均衡代表是 Nginx。 由于项目的压力并不大，日平均请求约 5000 左右，因此就采用 Spring Cloud 中的组件进行客户端负载均衡。主要用到的就是 Spring Cloud 和 Eureka。很多博客中会也看到 Ribbon 的身影。其实他们都是 Spring Cloud Netflix 中的组件，用来构建微服务

什么是Hystrix，Hystrix如何使用 　　容错框架Hystrix，SpringCloud将Hystrix整合到Netflix项目中了。它主要用来添加一个 延迟的阀值 和 容错逻辑 。来帮助我们控制分布式系统之间的组件交互。 那么什么是延迟阀值呢：就拿下图中的销售模块举例，在销售模块调用会员模块的时候，会给销售模块加上一个延迟，比如说 销售模块在限定的时间内没有接收到会员模块的响应或者有问题，就会触发容错的逻辑。 下面简单的介绍下，什么是Hystrix容错框架 1. Hystrix 能使你的系统在出现依赖服务失效的时候，通过隔离系统所依赖的服务，防止服务级联失败，同时提供失败回退机制，更优雅地应对失效，并使你的系统能更快地从异常中恢复。 2. Hystrix 能做什么？ 2.1 防止单个依赖耗尽容器（例如 Tomcat）内所有用户线程 2.2 降低系统负载，对无法及时处理的请求快速失败（fail fast）而不是排队 2.3 提供失败回退，以在必要时让失效对用户透明化 2.4 使用隔离机制（例如『舱壁』/『泳道』模式，熔断器模式等）降低依赖服务对整个系统的影响 2.5 针对系统服务的度量、监控和报警，提供优化以满足近实时性的要求 2.6 在 Hystrix 绝大部分需要动态调整配置并快速部署到所有应用方面，提供优化以满足快速恢复的要求 2.7

【推荐阅读】微服务还能火多久？>>> Spring framework架构的项目就像上海中心这样的高楼大厦，一栋大厦里租用者各色各样的公司和企业为用户提供各种各样的服务。 大厦里的每间办公室都是一个容器，对应着一个docker容器，空办公室对于用户来说是没有任何意义的，只有里面入住了企业（Spring boot），跑了各种程序，才叫一个微服务结点。 房间号可以理解成容器的ip和端口，企业名理解成微服务的服务名，如果一家企业规模较大，需要租多间办公室才可以，那就是多个容器共同组成一个高可用性的微服务组群。 大厦有一本企业列表，有哪些企业提供哪些服务，对应的房间号是什么，这本列表就是Spring Cloud Eureka。 大厦的大门是所有企业的对外的gateway，用户只能通过大门进去然后进行安检后保安会帮你指路告诉你要找的企业在哪里，这里的大门和门卫就是Spring Cloud Zuul。 也不是所有的房间都是给企业准备的，也有弱点室、茶水间等为所有企业准备的公共设施，这就是Spring Cloud Hystrix的Dashboard、redis、MQ等这些独立的辅助服务。 如果要访问大厦里的某一个企业你只知道企业名，你是不知道具体在哪一楼层哪一房间的，需要去看楼层的导航图或者电梯附近的企业列表（Eureka），如果一个企业有多个房间，客户自己决定进哪一个房间去获取服务

【今日推荐】：为什么一到面试就懵逼！>>> 下来有两个 感受 ， 一个是面邀人数不多 ，疫情影响，不难理解。再一个就有点不乐观：很多面试者准备明显不足。 昨天跟随一位大厂的朋友聊到今年的面试 。 太多候选人能力其实不差，进入团队干活后达到期望不难，但由于没准备或不会表达，就是无法通过面试。 像考核工作2年以上经验的技术人时，他希望候选人不是只停留在“会干活”的一部分，还要更加注重考查其“解决问题”的能力。 如果，平时只忙忙于业务，不重视积累和准备，薪资会十分吃亏。 那么，到底该如何准备高级开发，架构师等级的面试呢？ 其实，除了表达能力和面试技巧外，从技术层面讲，无非就这几块内容： 源码阅读，JVM，高并发， 分布式，生成，中间件，微服务架构 。 ，需要的朋友可以翻看下。 这里，最近整理了一个视频面试资料，内容包含： 二进制阅读技巧，分布式事务设计，微服务架构 这三块的内容。免费分享给大家。非常适合有这些困惑的朋友： 1.一直在重复造轮，CRUD，原始码阅读经验欠缺，面试不会表达； 2.主流框架都有使用，但是只限于参加会用，遇到问题基本无法解决； 3.平时忙于项目，没有时间系统准备技术面试； 4.开发功底扎实，但对分布式，微服务框架知识了解不多。 内容具体有： 视频一：通读一段代码，作为自己的加分项。 如何证明自己对某些知识点了解的很深入？最简单的方式就是讲源码。 视频二：

码农下载： https://git.oschina.net/forezp/SpringCloudLearning github下载： https://github.com/forezp/SpringCloudLearning ,记得star哦！ Spring Cloud Alibaba教程 Spring Cloud Alibaba教程：使用Nacos作为服务注册发现组件 Spring Cloud Alibaba教程：使用Nacos作为配置中心 Spring Cloud Alibaba教程：Sentinel的使用 Greenwich版本 Spring Cloud Consul 之Greenwich版本全攻略 spring cloud config将配置存储在数据库中 Spring Cloud Sleuth 之Greenwich版本全攻略 Spring Boot Admin 2.1.0 全攻略 Finchley版本 Spring Cloud Finchley; Spring Boot 2.0.3 史上最简单的 SpringCloud 教程 | 第一篇: 服务的注册与发现（Eureka）(Finchley版本) 史上最简单的SpringCloud教程 | 第二篇: 服务消费者（rest+ribbon）(Finchley版本) 史上最简单的SpringCloud教程 | 第三篇:

hystrix可以为我们解决微服务中的：断路器、服务降级、服务熔断、服务隔离机制、服务雪崩效应 服务降级：超时降级、失败次数降级、故障降级、限流降级。可以参考纯洁，我觉得讲的非常棒： https://blog.csdn.net/ityouknow/article/details/81230412 服务隔离：线程池隔离，每个服务接口都有自己的独立线程池，每个线程池互不影响，就是CPU占用率高（只需核心接口需要）。信号量隔离： 服务熔断：在高并发的情况下，如果请求达到一定的极限（自己设置的阈值），自动开启服务保护功能，使用服务降级方式返回一个友好提示。服务熔断和服务降级一起使用的。 这个例子基于服务注册后的代码来搞的，因为测试需要访问两个站点，模拟其中一个站点故障。 https://my.oschina.net/uwith/blog/1929697 1、首先添加pom引用 <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-netflix-hystrix</artifactId> </dependency> 2、在application启动类中添加注解 package com.example.clienttest; import org

介绍一下降级和熔断的概念 什么是降级呢? 降级意味着多种方案，当系统出现问题的时候，你有一个备选方案可以马上切换，比如有一个接口的功能是实时预测未来一个月某个商品的采购数量，突然间依赖的上游系统出现问题了，那么我们的接口就完全不可用了吗？显然这是不应该的，这时我接口就可以降级，返回昨天实时计算出来的结果，虽然准确性可能差一点，但系统能够正常运转，降级也分为自动降级和手动降级，前者是系统自动检测到问题时自动切换，后者是系统检测到问题报警，人为的切换，降级代表着系统相比降级之前其功能表现不如之前的完美（这个具体体现在功能准确性，可用性上等,如上面接口的例子） 什么是熔断呢? 通俗来讲，熔断指的是遇到危险了，必须马上停掉，比如生活中的电流过大，必须马上切断，否则就发生了火灾了，熔断之后就会导致断电，完全不可用，在一个系统中，假设一个接口部署了10台机器（分布式），突然某一台机器的接口调用情况正确率降到90%，那么这台机器肯定出现问题了，这个时候就需要熔断这台机器，把这台机器从整个集群中摘掉，从而保证用户的请求100%的正确，再比如，一个系统中有很多功能，这些功能有些是核心功能，有些是非核心功能，那么在一些大促中，我们可能熔断掉一些非核心功能，从而保证核心功能的流转（登录和注册，登录属于核心，注册是属于非核心） 为什么需要降级和熔断 不管是降级还是熔断，都是为了保证了系统的稳定性，可用性

目录 微服务框架 SpringCloud SpringCloud技术栈 SpringCloud核心组件 核心组件工作原理 微服务架构组件 最后 微服务框架 微服务（Microservices）是一种架构风格，一个大型复杂软件应用由一个或多个微服务组成。系统中的各个微服务可被独立部署，各个微服务之间是松耦合的。每个微服务仅关注于完成一件任务并很好地完成该任务。在所有情况下，每个任务代表着一个小的业务能力。 以往我们开发应用程序都是单体型，虽然开发和部署比较方便，但后期随着业务的不断增加，开发迭代和性能瓶颈等问题，将会困扰开发团队，微服务就是解决此问题的有效手段。 那么我们在具体实践落地微服务时，我们又需要做什么？一个微服务框架到底又有什么呢？特别是对于.NET生态圈的小伙伴们，一直都有很多困惑，不知该如何下手。 既然我们不知道，又要高清楚，那最好的办法是什么呢?我认为最有效的方式是 研究成熟的产品 。市面上成熟的微服务框架有一些， 而SpringCloud就是可供研究的对象，下面我们一起来看看SpringCloud是什么？ SpringCloud SpringCloud技术栈 从上面的技术栈图中可以看出： 微服务框架核心是 服务治理 服务治理的核心组件包括 网关 、 服务注册与发现 、 服务调用 SpringCloud核心组件 组件 选型 备注 网关 Zuul 服务注册与发现

目录 微服务框架 SpringCloud SpringCloud技术栈 SpringCloud核心组件 核心组件工作原理 微服务架构组件 最后 微服务框架 微服务（Microservices）是一种架构风格，一个大型复杂软件应用由一个或多个微服务组成。系统中的各个微服务可被独立部署，各个微服务之间是松耦合的。每个微服务仅关注于完成一件任务并很好地完成该任务。在所有情况下，每个任务代表着一个小的业务能力。 以往我们开发应用程序都是单体型，虽然开发和部署比较方便，但后期随着业务的不断增加，开发迭代和性能瓶颈等问题，将会困扰开发团队，微服务就是解决此问题的有效手段。 那么我们在具体实践落地微服务时，我们又需要做什么？一个微服务框架到底又有什么呢？特别是对于.NET生态圈的小伙伴们，一直都有很多困惑，不知该如何下手。 既然我们不知道，又要高清楚，那最好的办法是什么呢?我认为最有效的方式是 研究成熟的产品 。市面上成熟的微服务框架有一些， 而SpringCloud就是可供研究的对象，下面我们一起来看看SpringCloud是什么？ SpringCloud SpringCloud技术栈 从上面的技术栈图中可以看出： 微服务框架核心是 服务治理 服务治理的核心组件包括 网关 、 服务注册与发现 、 服务调用 SpringCloud核心组件 组件 选型 备注 网关 Zuul 服务注册与发现