负载均衡

原文链接： https://www.cnblogs.com/knowledgesea/p/5199046.html 首先给大家说下upstream这个配置的，这个配置是写一组被代理的服务器地址，然后配置负载均衡的算法。这里的被代理服务器地址有两种写法。 # 第一种 upstream mysvr { server 192.168.10.121:3333; server 192.168.10.122:3333; } server { .... location ~*^.+$ { proxy_pass http://mysvr; #请求转向mysvr 定义的服务器列表 　　　 } } # 第二种upstream mysvr { server http://192.168.10.121:3333; server http://192.168.10.122:3333; } server { .... location ~*^.+$ { proxy_pass mysvr; #请求转向mysvr 定义的服务器列表 } } 1. 热备：如果你有2台服务器，当一台服务器发生事故时，才启用第二台服务器给提供服务。服务器处理请求的顺序：AAAAAA突然A挂啦，BBBBBBBBBBBBBB..... upstream mysvr { server 127.0.0.1:7878; server 192

首先搞定三个不同的tomcat， 修改conf目录中的server.xml文件，保持tomcat的server端口 和connection端口不同即可 www.2cto.com 第一个： <Server port="8115" shutdown="SHUTDOWN"> 第二个： <Connector port="18082" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8423" /> 其他几个tomcat做相同的改动，只是端口应该不同； 测试这三个tomcat是否成功。同时启动tomcat，再做相应的访问； www.2cto.com 配置nginx的配置：nginx.conf #Nginx所用用户和组，window下不指定 #user niumd niumd; #工作的子进程数量（通常等于CPU数量或者2倍于CPU） worker_processes 2; #错误日志存放路径 #error_log logs/error.log; #error_log logs/error.log notice; error_log logs/error.log info; #指定pid存放文件 www.2cto.com pid logs/nginx.pid; events { #使用网络IO模型linux建议epoll

一、下载地址 Nginx ： http://nginx.org/en/download.html Tomcat ： http://tomcat.apache.org/ 1 、解压 Nginx 到： E:\server\nginx-1.2.9 命令行启动Nginx ： 若果想停止 nginx ， dos 环境运行命令： nginx -s stop 二、相关配置 2、Nginx 配置： Nginx 配置文件默认在 conf 目录，主要配置文件为 nginx.conf ，我们安装在 E:\server\nginx-1.2.9 、默认主配置文件为 E:\server\nginx-1.2.9\nginx.conf 。下面是 nginx 作为前端反向代理服务器的配置。 Nginx.conf View Code #Nginx所用用户和组 #user niumd niumd; #工作的子进程数量（通常等于CPU数量或者2倍于CPU） worker_processes 2; #错误日志存放路径 #error_log logs/error.log; #error_log logs/error.log notice; error_log logs/error.log info; #指定pid存放文件 pid logs/nginx.pid; events { #使用网络IO模型linux建议epoll

1.首先需要拖拽镜像文件 docker pull nginx 2.生成多个docker容器 　　docker run --name demo1 -d -p 8081:80 -v /data/demo1:/usr/share/nginx/html nginx 　　docker run --name demo2 -d -p 8082:80 -v /data/demo2:/usr/share/nginx/html nginx 　　 　　还可以创建多个docker容器，这儿我就创两个做例子。 3.进入容器： docker exec -it demo1 /bin/bash 修改配置文件。 　切换目录 cd/etc/nginx/ 　编辑配置文件 vim nginx.conf 　会报如下的错误： 　 　这是没有安装vim编辑器，输入 apt-get update 　更新完成后再输入 apt-get install vim 安装 　再次输入 vim nginx.conf 进行编辑 　 upstream 模块负债负载均衡模块，通过一个简单的调度算法来实现客户端IP到后端服务器的负载均衡。 在配置文件中插入红框中的内容，代码如下。 1 upstream docker_nginx{ 2 　　　　server 主机ip：容器端口号； 3 　　　　server 主机ip：容器端口号； 4 } 5

Nginx的产生 没有听过Nginx？那么一定听过它的"同行"Apache吧！Nginx同Apache一样都是一种WEB服务器。基于REST架构风格，以统一资源描述符(Uniform Resources Identifier)URI或者统一资源定位符(Uniform Resources Locator)URL作为沟通依据，通过HTTP协议提供各种网络服务。 然而，这些服务器在设计之初受到当时环境的局限，例如当时的用户规模，网络带宽，产品特点等局限并且各自的定位和发展都不尽相同。这也使得各个WEB服务器有着各自鲜明的特点。 Apache的发展时期很长，而且是毫无争议的世界第一大服务器。它有着很多优点：稳定、开源、跨平台等等。它出现的时间太长了，它兴起的年代，互联网产业远远比不上现在。所以它被设计为一个重量级的。它不支持高并发的服务器。在Apache上运行数以万计的并发访问，会导致服务器消耗大量内存。操作系统对其进行进程或线程间的切换也消耗了大量的CPU资源，导致HTTP请求的平均响应速度降低。 这些都决定了Apache不可能成为高性能WEB服务器，轻量级高并发服务器Nginx就应运而生了。 俄罗斯的工程师Igor Sysoev，他在为Rambler Media工作期间，使用C语言开发了Nginx。Nginx作为WEB服务器一直为Rambler Media提供出色而又稳定的服务。

本文只针对Nginx在不加载第三方模块的情况能处理哪些事情，由于第三方模块太多所以也介绍不完，当然本文本身也可能介绍的不完整，毕竟只是我个人使用过和了解到过得，欢迎留言交流。 Nginx能做什么 ——反向代理 ——负载均衡 ——HTTP服务器（动静分离） ——正向代理 以上就是我了解到的Nginx在不依赖第三方模块能处理的事情，下面详细说明每种功能怎么做。 反向代理 反向代理应该是Nginx做的最多的一件事了，什么是反向代理呢，以下是百度百科的说法：反向代理（Reverse Proxy）方式是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给internet上请求连接的客户端，此时代理服务器对外就表现为一个反向代理服务器。简单来说就是真实的服务器不能直接被外部网络访问，所以需要一台代理服务器，而代理服务器能被外部网络访问的同时又跟真实服务器在同一个网络环境，当然也可能是同一台服务器，端口不同而已。 下面贴上一段简单的实现反向代理的代码 保存配置文件后启动Nginx，这样当我们访问localhost的时候，就相当于访问localhost:8080了 负载均衡 负载均衡也是Nginx常用的一个功能，负载均衡其意思就是分摊到多个操作单元上进行执行，例如Web服务器、FTP服务器、企业关键应用服务器和其它关键任务服务器等

一、LVS简介 LVS（Linux Virtual Server）即Linux虚拟服务器，是由章文嵩博士主导的开源负载均衡项目，目前LVS已经被集成到Linux内核模块中。该项目在Linux内核中实现了基于IP的数据请求负载均衡调度方案，其体系结构如图1所示，终端互联网用户从外部访问公司的外部负载均衡服务器，终端用户的Web请求会发送给LVS调度器，调度器根据自己预设的算法决定将该请求发送给后端的某台Web服务器，比如，轮询算法可以将外部的请求平均分发给后端的所有服务器，终端用户访问LVS调度器虽然会被转发到后端真实的服务器，但如果真实服务器连接的是相同的存储，提供的服务也是相同的服务，最终用户不管是访问哪台真实服务器，得到的服务内容都是一样的，整个集群对用户而言都是透明的。最后根据LVS工作模式的不同，真实服务器会选择不同的方式将用户需要的数据发送到终端用户，LVS工作模式分为NAT模式、TUN模式、以及DR模式。 二、三种工作模式的解析。 1、基于NAT的LVS模式负载均衡 NAT（Network Address Translation）即网络地址转换，其作用是通过数据报头的修改，使得位于企业内部的私有IP地址可以访问外网，以及外部用用户可以访问位于公司内部的私有IP主机。VS/NAT工作模式拓扑结构如图2所示，LVS负载调度器可以使用两块网卡配置不同的IP地址

Author：赵志乾 Date：2019-05-11 Declaration：All Right Reserved！！！ dubbo作为一款成熟的rpc框架，在协议所定义的功能之上封装了许多额外的功能，如容错策略、负载均衡策略等等。其中，dubbo支持的负载均衡策略包括随机(Random)、轮询(RoundRobin)、最少活跃调用数(LeastActive)和一致性Hash(ConsistentHash)，缺省配置为随机负载均衡测策略。 1、随机负载均衡策略和轮询负载均衡策略 这两种负载均衡策略都比较简单，其所面临的问题就是不会按照实际工作情况自适应。 2、最少活跃调用数 该策略是指将此次请求提交给当前时刻待处理请求数最少的实例进行处理，当存在多个实例均为最少活跃调用数时，则在这几个实例之间进行随机分配。由于该负载均衡策略是按照当前各实例的处理能力来分配请求的，所以能够依据实际的工作情况达到自适应效果。 3、一致性hash 该策略能够保证在服务提供者列表不变的情况下，相同参数的请求总是发送到同一个服务提供者。其相对于普通hash的优点就是通过引入虚拟节点来降低因服务提供者故障而产生的波动。默认情况下，一致性hash会使用160个虚拟节点来构造一致性hash环，并且只使用方法的第一个参数的hash值作为key来获取服务提供者对象(即Invoker)。 注1

负载均衡：当有多个提供者的时候，如何选择 哪个提供者进行调用的负载算法。 在集群负载均衡时，Dubbo 提供了多种均衡策略，缺省为 random 随机调用。 Dubbo 官方支持以下负载均衡策略： 1. 随机( random): 按权重设置随机概率。此为默认算法 参考代码： com.alibaba.dubbo.rpc.cluster.loadbalance.RandomLoadBalance 2. 轮询(roundrobin): 按公约后的权重设置轮询比率 参考代码： com.alibaba.dubbo.rpc.cluster.loadbalance.RoundRobinLoadBalance 3. 最少活跃调用数 (leastactive) :相同活跃数的随机，活跃数指调用前后计数差 参考代码： com.alibaba.dubbo.rpc.cluster.loadbalance.LeastActiveLoadBalance 4. 一致性hash(consistenthash): 相同的参数总是发到同一机器 参考代码： com.alibaba.dubbo.rpc.cluster.loadbalance.ConsistentHashLoadBalance 一致性hash主要应用于分布式缓存中，可以有效解决分布式存储结构下动态增加和删除节点锁带来的问题。 详细请 参考： https:/

一.前言 在集群负载均衡时，Dubbo 提供了多种均衡策略，缺省为 random 随机调用。可以自行扩展负载均衡策略，参见： https://dubbo.gitbooks.io/dubbo-dev-book/content/impls/load-balance.html 二.负载均衡策略 (1) Random LoadBalance 随机，按权重设置随机概率。 在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。 (2) RoundRobin LoadBalance 轮循，按公约后的权重设置轮循比率。 存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。 (3) LeastActive LoadBalance 最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。 使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。 (4) ConsistentHash LoadBalance 一致性 Hash，相同参数的请求总是发到同一提供者。 当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。 算法参见： http://en.wikipedia.org/wiki/Consistent_hashing