负载均衡

转载来自于 https://mp.weixin.qq.com/s/xLOS-XNOinkptKRBJN8gXg 什么是反向代理与负载均衡 什么是反向代理 当我们有一个服务器集群，并且服务器集群中的每台服务器的内容一样的时候，同样我们要直接从个人电脑访问到服务器集群服务器的时候无法访问，必须通过第三方服务器才能访问集群 这个时候，我们通过第三方服务器访问服务器集群的内容，但是我们并不知道是哪一台服务器提供的内容，此种代理方式称为 反向代理 什么是负载均衡 公司会建立很多的服务器，这些服务器组成了服务器集群，然后，当用户访问网站的时候，先访问一个中间服务器，再让这个中间服务器在服务器集群中选择一个压力较小的服务器，然后将该访问请求引入选择的服务器 所以，用户每次访问，都会保证服务器集群中的每个服务器压力趋于平衡，分担了服务器压力，避免了服务器崩溃的情况 一句话： nginx会给你分配服务器压力小的去访问 Nginx反向代理与负载均衡的实现 用户访问网站的时候首先会访问nginx服务器，然后nginx服务器再从服务器集群中选择压力较小的服务器，将该访问请求引向该服务器 nginx配置 下面修改配置方面我就从mac系统下来进行简单的演示，如何安装的话也暂以mac为主了，windows系统直接去Nginx官网下载安装即可 安装nginx 1-进到homebrew官网，然后复制命令

a、配置2个tomcat。直接复制一份tomcat在同级目录下，看起来是这样： D:\apache-tomcat-6.0.26 D:\apache-tomcat-6.0.26_2 b、配置“环境变量”，新建CATALINA_HOME，值是D:\apache-tomcat-6.0.26，再新建CATALINA2_HOME，值是D:\apache-tomcat-6.0.26_2；检查两个tomcat是否都能分别启动； c、修改D:\apache-tomcat-6.0.26\conf\server.xml 3个端口号，分别是： <Server port="8005" shutdown="SHUTDOWN"> 改成 <Server port="18005" shutdown="SHUTDOWN">(端口号随便) <Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> 改成 <Connector port="18080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" /> <Connector port="8009" protocol="AJP/1.3" redirectPort=

LVS 的负载均衡调度算法 1、轮叫调度 （Round Robin） ( rr ) 调度器通过“ 轮叫 ”调度算法将外部请求按顺序轮流分配到集群的真实服务器上，它均等地对待每一台服务器，而不管服务器上实际的连接数和系统负载。 2、加权轮叫（Weihted Round Robin）(wrr) 调度器通过“ 加权轮叫 ”调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器能处理更多的访问流量。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。 3、最少连接（Least Connections）(LC) 调度器通过“ 最少连接 ”调度算法动态地将网络请求调度到已建立的廉洁书最少的服务器上。如果集群系统的真实服务器具有相近的系统性能，采用“ 最小连接 ”调度算法可以较好地均衡负载 4、加权最少链接（Weighted Least Connections）(WLC) 在集群系统中的服务器性能差异较大的情况下，调度器采用“加权最少链接”调度算法优化负载均衡性能，具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。 （5-7缓存集群用的较多） 5、基于局部性的最少链接（Locality-Based Least Connections）(LBLC) 是针对目标IP地址的负载均衡

本节就聊聊采用Nginx负载均衡之后碰到的问题： Session问题 文件上传下载 通常解决服务器负载问题，都会通过多服务器分载来解决。常见的解决方案有： 网站入口通过分站链接负载（天空软件站，华军软件园等） DNS轮询 F5物理设备 Nginx等轻量级架构 那我们看看Nginx是如何实现负载均衡的，Nginx的upstream目前支持以下几种方式的分配 1、轮询（默认） 每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。 2、weight 指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。 2、ip_hash 每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。 3、fair（第三方） 按后端服务器的响应时间来分配请求，响应时间短的优先分配。 4、url_hash（第三方） 按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。 Upstream配置如何实现负载 http { upstream www.test1.com { ip_hash; server 172.16 . 125.76 : 8066 weight = 10 ; server 172.16 . 125.76 : 8077 down; server 172

本节就聊聊采用Nginx负载均衡之后碰到的问题： Session问题 文件上传下载 通常解决服务器负载问题，都会通过多服务器分载来解决。常见的解决方案有： 网站入口通过分站链接负载（天空软件站，华军软件园等） DNS轮询 F5物理设备 Nginx等轻量级架构 那我们看看Nginx是如何实现负载均衡的，Nginx的upstream目前支持以下几种方式的分配 1、轮询（默认） 每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。 2、weight 指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。 2、ip_hash 每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。 3、fair（第三方） 按后端服务器的响应时间来分配请求，响应时间短的优先分配。 4、url_hash（第三方） 按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。 Upstream配置如何实现负载 http { upstream www.test1.com { ip_hash; server 172.16 . 125.76 : 8066 weight = 10 ; server 172.16 . 125.76 : 8077 down; server 172

前言 上一篇文章使用 Consul 和 Registrator 在 docker 的容器环境中搭建了服务注册和发现集群。在服务发现和注册的基础上，本文将引入 Nginx 反向代理服务器和 Consul-template 组件，实现动态的服务负载均衡。 正文 1. 工具介绍 1.1. Nginx 一个高性能的 HTTP 和反向代理服务器，用于前端访问流量到后台应用服务器负载均衡和请求转发。 1.2. Consul-template Consul-template 是 HashiCorp 基于 Consul 所提供的可扩展的工具，通过监听 Consul 中的数据变化，动态地修改一些配置文件中地模板。常用于在 Nginx 、 HAProxy 上动态配置健康状态下的客户端反向代理信息。 2. 实现原理 通过 Nginx 自身实现负载均衡和请求转发； 通过 Consul-template 的 config 功能实时监控 Consul 集群节点的服务和数据的变化； 实时的用 Consul 节点的信息替换 Nginx 配置文件的模板，并重新加载配置文件； Consul-template 和 nginx 必须安装在同一台机器上，因为 Consul-template 需要动态修改 nginx 的配置文件 nginx.conf ，然后执行 nginx -s reload 命令进行路由更新

基于SOA的分布式高可用架构和微服务架构，是时下如日中天的互联网企业级系统开发架构选择方案。在核心思想上，两者都主张对系统的横向细分和扩展，按不同的业务功能模块来对系统进行分割并且使用一定的手段实现服务之间的通信，并且基于弹性云服务搭建高可用的分布式解决方案。 但它们之间的区别可能比相似的地方要多，特别是体现在对服务的使用和与云服务的深度结合上。在具体实践中，微服务的架构也可以与其它互联网中间件组合在一起，组成规模更为庞大的SOA分布式系统。本文主要对一个典型的SOA分布式应用的架构和组件做详细的说明。 企业级系统架构的演变 单体式 单体架构即所有系统功能和模块基于MVC的设计模式耦合在一个单体服务器单元中。基于传统的MVC思想，单体应用基于前后端分离的原则，通过Model、Control和View共同来完成一个特点的服务请求。这种传统的架构模式带了了多人团队合作、代码更新和维护、持续部署方面的困难，更重要的是，这种架构无法支持互联网行业对高并发的需求。下图为一个典型商城应用的单体架构及其SSM实现架构： 关于单体式应用的更多资料，可参看： JavaWeb开发之详解Servlet及Servlet容器 基于SSM的Java Web应用开发原理初探 集群 至少在高并发的需求上，单体应用的缺陷是行业所无法忍受的， 那如何提升并发性能呢？一个直接的思路是，把单体应用变成多体，变成集群

这几个是新知道的，先记录一下,虽然有的还不知道具体是什么。 CDN CDN全称Content Delivery Network，即内容分发网络，本系统所有静态资源全部通过 CDN加速来提高访问速度。 系统静态资源包括：html页面、js文件、css文件、image图 片、pdf和ppt及doc教学文档、video视频等。 负载均衡 系统的CDN层、UI层、服务层及数据层均设置了负载均衡服务，上图仅在UI层前边标注 了负载均衡。 每一层的负载均衡会根据系统的需求来确定负载均衡器的类型，系统支持 4层负载均衡+7层负载均衡结合的方式，4层负载均衡是指在网络传输层进行流程转发， 根据IP和端口进行转发， 7层负载均衡完成HTTP协议负载均衡及反向代理的功能，根据 url进行请求转发。 微服务层 微服务层将系统服务分类三类：前端服务、后端服务及系统服务。 前端服务：主要为学 习用户提供学习服务。 后端服务：主要为管理用户提供教学管理服务。 系统服务：公 共服务，为系统的所有微服务提供公共服务功能。 服务网关：提供服务路由、负载均 衡、认证授权等服务。 DevOps DevOps（英文Development和Operations的组合）是一组过程、方法与系统的统称， 用于促进开发（应用程序/软件工程）、技术运营和质量保障（QA）部门之间的沟通、 协作与整合。 本项目供了许多开发、运营

转载： 负载均衡之加权轮询算法 作者： gqtcgq 在介绍加权轮询算法(WeightedRound-Robin)之前，首先介绍一下轮询算法(Round-Robin)。 一：轮询算法(Round-Robin) 　　轮询算法是最简单的一种负载均衡算法。它的原理是把来自用户的请求轮流分配给内部的服务器：从服务器1开始，直到服务器N，然后重新开始循环。 　　算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调度。 　 　　假设有N台服务器：S = {S1, S2, …, Sn}，一个指示变量i表示上一次选择的服务器ID。变量i被初始化为N-1。该算法的伪代码如下： j = i; do { j = (j + 1) mod n; i = j; return Si; } while (j != i); return NULL; 　　轮询算法假设所有服务器的处理性能都相同，不关心每台服务器的当前连接数和响应速度。当请求服务间隔时间变化比较大时，轮询算法容易导致服务器间的负载不平衡。所以此种均衡算法适合于服务器组中的所有服务器都有相同的软硬件配置并且平均服务请求相对均衡的情况。 二：加权轮询算法(WeightedRound-Robin) 　　轮询算法并没有考虑每台服务器的处理能力，实际中可能并不是这种情况。由于每台服务器的配置、安装的业务应用等不同，其处理能力会不一样。所以

HaProxy代理服务器 调度器对比： Nginx 优点 1.9版本开始支持四层代理。 正则表达式比HaProxy强大，开源LVS不支持正则。 使用亲和性强，（可排错性强）通过日志可以解决多数问题。 并发量可以达到几万次。 缺点 七层代理仅支持http、https、mail协议，应用面小。 健康检查仅通过端口状态，无法使用url来进行健康检查。 LVS 优点 工作在TCP/IP协议四层，转发包不对包进行拆包和封装,硬件资源消耗低。 配置性低，没有太多可配置性，配置也更简单。 工作在TCP/IP四层，几乎可以为所有应用提供负载均衡。 缺点 不支持正则表达式，不能实现动静分离。 如果服务架构庞大，LVS-DR模式配置比较繁琐。 HaProxy 优点 支持session、cookie功能。 可以通过url进行健康检查。 效率、负载均衡速度，高于Nginx，低于LVS。 HAProxy 支持TCP，可以对MySQL进行负载均衡。 调度算法丰富。 缺点 正则弱于Nginx 日志依赖于syslogd 性能方面： LVS > Haproxy > Nginx 功能：Nginx > Haproxy > LVS 正则：Nginx > Haproxy 小型架构调度选Nginx （万级） 中型架构调度选HaProxy (十万) 大型架构调度选LVS （百万级） 来源： https://www