负载均衡

解决方案详细信息 普通代理方式是代理内部网络用户访问internet上服务器的连接请求，客户端必须指定代理服务器,并将本来要直接发送到internet上服务器的连接请求发送给代理服务器处理。 反向代理（Reverse Proxy）方式是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给internet上请求连接的客户端，此时代理服务器对外就表现为一个服务器。 反向代理负载均衡技术是把将来自internet上的连接请求以反向代理的方式动态地转发给内部网络上的多台服务器进行处理，从而达到负载均衡的目的。 反向代理负载均衡能以软件方式来实现，如apache mod_proxy、netscape proxy等，也可以在高速缓存器、负载均衡器等硬件设备上实现。反向代理负载均衡可以将优化的负载均衡策略和代理服务器的高速缓存技术结合在一起，提升静态网页的访问速度，提供有益的性能；由于网络外部用户不能直接访问真实的服务器，具备额外的安全性（同理，NAT负载均衡技术也有此优点）。 其缺点主要表现在以下两个方面： 反向代理是处于OSI参考模型第七层应用的，所以就必须为每一种应用服务专门开发一个反向代理服务器，这样就限制了反向代理负载均衡技术的应用范围，现在一般都用于对web服务器的负载均衡。 针对每一次代理，代理服务器就必须打开两个连接

PS： Nginx /LVS/ HAProxy 是目前使用最广泛的三种负载均衡软件，本人都在多个项目中实施过，参考了一些资料，结合自己的一些使用经验，总结一下。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的 应用需求还得具体分析，如果是中小型的Web应用，比如日PV小于1000万，用Nginx就完全可以了；如果机器不少，可以用DNS轮询，LVS所耗费 的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用LVS。 一种是通过硬件来进行进行，常见的硬件有比较昂贵的F5和Array等商用的负载均衡器，它的优点就是有专业的维护团队来对这些服务进行维护、缺点 就是花销太大，所以对于规模较小的网络服务来说暂时还没有需要使用；另外一种就是类似于Nginx/LVS/HAProxy的基于 Linux 的开源免费的负载均衡软件，这些都是通过软件级别来实现，所以费用非常低廉。 目前关于网站架构一般比较合理流行的架构方案：Web前端采用Nginx/HAProxy+ Keepalived 作负载均衡器；后端采用 MySQL 数据库一主多从和读写分离，采用LVS+Keepalived的架构。 当然要根据项目具体需求制定方案。 下面说说各自的特点和适用场合。 Nginx的优点是： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名

Nginx+Tomcat负载均衡群集 nginx处理静态 tomcat处理动态 合并为动静分离（前后端分离） Tomcat重要目录 bin：存放启动和关闭Tomcat脚本 conf：存放Tomcat不同的配置文件 doc：存放Tomcat文档 lib/japser/common：存放Tomcat运行需要的库文件 logs：存放Tomcat执行时的LOG文件 src：存放Tomcat的源代码 webapps：Tomcat的主要Web发布目录 Demo前置知识点: Nginx静态处理优势 1.Nginx处理静态页面的效率远高于Tomcat的处理能力 2.如果Tomcat的请求量为1000次，则Nginx的请求量为6000次 3.Tomcat每秒的吞吐量为0 6M，Nginx的每秒吞吐量为3.6M 4.Nginx处理静态资源的能力是Tomcat处理的6倍，优势可见一斑 动静分离原理：服务端接收来自客户端的请求中，既有静态资源也有动态资源 环境准备： nginx：192.168.18.147---->CentOS 7-2 Tomcat 1：192.168.18.128---->CentOS 7-3 Tomcat 2：129.168.18.148---->CentOS 7-4 Client：192.168.18.129---->Win 7-1 Tomcat 1服务器CentOS 7-3的操作

场景 Nginx入门简介和反向代理、负载均衡、动静分离理解 https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102790862 Ubuntu Server 16.04 LTS上怎样安装下载安装Nginx并启动： https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102828075 Nginx在开发中常用的基础命令 https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102828490 Nginx的配置文件位置以及组成部分结构讲解 https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102829618 Nginx配置实例-反向代理实现浏览器请求Nginx跳转到服务器某页面 https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102944133 Nginx配置实例-反向代理实例：根据访问的路径跳转到不同端口的服务中 https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/102963715

swarm和k8s本质都是容器编排服务。它们都能把底层的宿主机抽象化，然后将应用从以构建好的镜像开始，最终以docker的方式部署到宿主机上。 应该选择哪种方案作为我们的容器云服务呢？ 我觉得k8s（kubernetes简称）跟swarm的比较好比MySQL和SQL Server的比较，前者轻量级、实施快、以实现核心功能为重，比较适合小规模部署，后者则是企业级、功能全、支撑场景多，适合做企业级docker云方案。 如下我对两者做出的一些对比： 设计理念有区别 swarm偏重的是容器的部署，而k8s更高一层：应用的部署。k8s对容器的所有操作都渗透着为应用而服务的理念，比如pod是为了让联系紧密但又不适合部署在一起的应用分别部署在不同docker里面，但docker之间共享volume和network namespace方式，以便实现紧密地“交流”，在比如service是为了隐藏pod（容器的集合，下文会介绍到）的网络细节，让pod提供固定的访问入口，从而方便地让其他应用访问等。 另外，k8s特别擅长大规模docker的管理。为了解决复杂场景下应用的部署，k8s的组件要比swarm多得多，即便似乎功能类似的组件，k8s很多时候都在场景支持上要优化swarm，以调度为例，swarm只有三种调度策略：宿主机负载、宿主机运行容器的多寡、随机指定宿主机，但K8s除此之外，策略更加丰富

关于 express-demo 关于 部署 express-demo 虽然 PM2 已有负载均衡的功能，但是他只对多进程之间进行处理，如果是多个服务器之间，就无法办到了，这里我们选用 nginx 。 服务器准备 s0：CentOS，172.16.70.175，nginx 服务器 s1： CentOS， 172.16.70.174，web 服务器 s2： CentOS， 172.16.70.173，web 服务器 1、配置 s1，s2 由于之前已有说明，这不再细说。参考： http://my.oschina.net/songzhu/blog/610337 修改 s1 服务器的 config.js 内容为： var config = { server:"172.16.70.174" }; module.exports = config; 重启 web pm2 restart pm2-start.json 修改 s2 服务器的 config.js 内容为： var config = { server:"172.16.70.173" }; module.exports = config; 重启 web pm2 restart pm2-start.json 2、配置 s0 安装 nginx $ rpm -ivh http://nginx.org/packages/centos/7/x86

目录 集群 LVS负载均衡集群 LVS三种工作模式 LVS的基本操作 搭建LVS-NAT实践 搭建LVS-DR实践 集群 概述 集群（cluster），也称为群集,表示一群的意思，在服务器领域表示大量的服务器的集合体。将各个主机组成集群，形成一个系统协调工作，其可扩展性、可用性、容量、性能都会有大规模的提升。 企业级集群分类： 负载均衡集群（LB，Load Balance） 高可用集群（HA，High Availability） 高性能集群（HP，High Performance） 负载均衡集群（LB） 在企业网站架构中，以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载（LB）的整体能力。LB负载分配依赖于主节点的算法，将来自客户机的访问请求分担给多个服务器节点 负载均衡集群实现方式 硬件方式：F5、A10、Citrix、NetScaler、array、梭子鱼、绿盟 软件方式：LVS、haproxy、nginx 负载均衡集群工作的层次划分 传输层：LVS，haproxy 应用层：haproxy、nginx、ats 高可用集群（HA） 以提高应用系统的可靠性、尽可能减少终端宕机时间为目标，确保服务的连续性，达到高可用（HA）的容错效果，例如“故障切换”“双击热备”“多机热备”等都属于高可用群集技术。HA工作方式包括双工和主从两种模式

LVS： 1、抗负载能力强。抗负载能力强、性能高，能达到F5硬件的60%；对内存和cpu资源消耗比较低 2、工作在网络4层，通过vrrp协议转发（仅作分发之用），具体的流量由linux内核处理，因此没有流量的产生。 2、稳定性、可靠性好，自身有完美的热备方案；（如：LVS+Keepalived） 3、应用范围比较广，可以对所有应用做负载均衡； 4、不支持正则处理，不能做动静分离。 5、支持负载均衡算法：rr（轮循）、wrr（带权轮循）、lc（最小连接）、wlc（权重最小连接） 6、配置 复杂，对网络依赖比较大，稳定性很高。 Ngnix： 1、工作在网络的7层之上，可以针对http应用做一些分流的策略，比如针对域名、目录结构； 2、Nginx对网络的依赖比较小，理论上能ping通就就能进行负载功能； 3、Nginx安装和配置比较简单，测试起来比较方便； 4、也可以承担高的负载压力且稳定，一般能支撑超过1万次的并发； 5、对后端服务器的健康检查，只支持通过端口来检测，不支持通过url来检测。 6、Nginx对请求的异步处理可以帮助节点服务器减轻负载； 7、Nginx仅能支持http、https和Email协议，这样就在适用范围较小。 8、不支持Session的直接保持，但能通过ip_hash来解决。、对Big request header的支持不是很好， 9、支持负载均衡算法

Feign的源码实现的过程如下： 首先通过@EnableFeignCleints注解开启FeignCleint 根据Feign的规则实现接口，并加@FeignCleint注解 程序启动后，会进行包扫描，扫描所有的@ FeignCleint的注解的类，并将这些信息注入到ioc容器中。 当接口的方法被调用，通过jdk的代理，来生成具体的RequesTemplate RequesTemplate在生成Request。 Request交给Client去处理，其中Client可以是HttpUrlConnection、HttpClient也可以是Okhttp 最后Client被封装到LoadBalanceClient类，这个类结合类Ribbon做到了负载均衡 新注册的实例，特别是启动较快的实例（默认延迟40秒注册），不能马上被Eureka Server发现。另外，刚注册的Eureka Client也不能立即被其他服务调用，因为调用方因为各种缓存没有及时的获取到新的注册列表。 Ribbon的负载均衡，主要通过LoadBalancerClient来实现的，而LoadBalancerClient具体交给了ILoadBalancer来处理，ILoadBalancer通过配置IRule、IPing等信息，并向EurekaClient获取注册列表的信息，并默认10秒一次向EurekaClient发送

一、什么是负载均衡 负载均衡，名字很直白了就是让服务器的负载更均衡合理（好像说了句废话^_^）。负载均衡在不同的应用场景意义也有所不同。负载均衡的作用总结起来就两点： 灾备和分流 。 灾备：在应用中的目的是提供系统的可用性，保证某个服务出现异常时不至于整体瘫痪。集群让有同样功能的服务互相替补。灾备是集群自然具有的能力 分流：在应用中的目的是为了提高系统的性能，通过集群让系统能够承载更大的压力。 负载均衡的关键只有一个， "分发"!。 负载均衡的各种负载策略也只是为了让上面说到的 分流 更合理。所以说分流的优化是需要我们认为努力的，而灾备的能力是集群紫瑶具备的。 二、负载均衡方案 一、DNS负载均衡 主要负载算法，轮询。 二、Nginx负载均衡 Nginx的物种负载均衡算法： 1、round robin（默认） 轮询方式，依次将请求分配到各个后台服务器中，默认的负载均衡方式。 适用于后台机器性能一致的情况。 挂掉的机器可以自动从服务列表中剔除。 2、weight 根据权重来分发请求到不同的机器中，指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。 比如： upstream bakend { server 192.168.0.14 weight=10; server 192.168.0.15 weight=10; } 3、IP_hash