负载均衡

负载均衡应用场景： 普通web应用部署到多台应用服务器上，客户端通过访问应用服务器发送请求，最简单的就是n对1模式，n个客户端访问同一个应用服务器，这种情况当并发量大了，就无法应对，而且，如果只有一台服务器时,这个服务器挂了,那么对于网站来说是个灾难.；解决方案便可以横向扩充n台应用服务器，并且客户端访问与应用服务器中间加上负载均衡配置，负载均衡能实现的效果主要有三个： 1.转发功能：按照一定的算法【权重、轮询】，将客户端请求转发到不同应用服务器上，减轻单个服务器压力，提高系统并发量。 2.故障移除：通过心跳检测的方式，判断应用服务器当前是否可以正常工作，如果服务器期宕掉，自动将请求发送到其他应用服务器。 3.恢复添加：如检测到发生故障的应用服务器恢复工作，自动将其添加到处理用户请求队伍中。 upstream www_server_pools { #www_server_pools自定义的连接池名称 server IP1; #连接的服务器，可以ip或者是域名 server ip2; } 在location 里面增加 转发算法 proxy_pass http://www_server_pools;#http://连接池名称 proxy_set_header Host $host; #把主机的header头发给轮询的服务器 proxy_set_header X-Forward-For

阿里云负载均衡——SLB，是将访问流量根据转发策略分发到后端多台云服务器（ECS实例）的流量分发控制服务。包含两种含义：一是通过流量分发，扩展应用系统的服务能力；二是消除单点故障，提高应用系统的可用性。 应用场景 我们具体来看一看它的使用场景。 第一个使用场景的是用于高访问量的业务。 当你的应用访问量非常大，单台的服务器已经无法承载这个访问量的时候，就可以使用负载均衡，将流量分发到不同的服务器上去。 第二个场景是横向扩张系统。 当你已经使用了负载均衡，在业务有波动时可以在后端非常方便的添加和减少ECS来调整自己应用的服务能力。 第三个应用场景是消除单点故障。 当我们在使用负载均衡时，后端有多台ECS在同时工作的。一旦其中一台ECS上的应用发生了故障，那么负载均衡会通过一个健康检查的机制来及时的发现这个故障，并且能屏蔽对这台ECS的流量转发，然后将用户的请求转发到另一台正常工作的ECS实例上。 更多知识： 阿里云帮助中心-负载均衡 同城容灾 阿里云负载均衡可以实现同地域多可用区之间同地域容灾，当主可用区出现故障是，可以在短时间内切换到另一备用可用区，以恢复服务能力。同时，主可用区恢复访问时，它会自动切换到主可用区。 跨地域容灾 跨地域容灾通过云解析做智能DNS，将域名解析到不同地域的负载均衡实例地址下，以实现全局负载均衡，当某个地域出现不可用时

当前大多数的互联网系统都使用了服务器集群技术，集群是将相同服务部署在多台服务器上构成一个集群整体对外提供服务，这些集群可以是 Web 应用服务器集群，也可以是数据库服务器集群，还可以是分布式缓存服务器集群等等。 在实际应用中，在 Web 服务器集群之前总会有一台负载均衡服务器，负载均衡设备的任务就是作为 Web 服务器流量的入口，挑选最合适的一台 Web 服务器，将客户端的请求转发给它处理，实现客户端到真实服务端的透明转发。 最近几年很火的「云计算」以及分布式架构，本质上也是将后端服务器作为计算资源、存储资源，由某台管理服务器封装成一个服务对外提供，客户端不需要关心真正提供服务的是哪台机器，在它看来，就好像它面对的是一台拥有近乎无限能力的服务器，而本质上，真正提供服务的，是后端的集群。 LVS、Nginx、HAProxy 是目前使用最广泛的三种软件负载均衡软件。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析，如果是中小型的 Web 应用，比如日 PV 小于1000万，用 Nginx 就完全可以了；如果机器不少，可以用 DNS 轮询，LVS 所耗费的机器还是比较多的；大型网站或重要的服务，且服务器比较多时，可以考虑用 LVS。 目前关于网站架构一般比较合理流行的架构方案： Web 前端采用 Nginx/HAProxy

目录 一、基本思路 二、安装Tengine(Nginx)并添加服务 三、安装Keepalived并添加服务 四、Nginx配置多个应用 五、实现多应用服务器session共享 一、基本思路 1.利用nginx实现负载均衡和反向代理，减轻主服务器访问压力； 2.利用springboot实现多tomcat的session共享； IP 角色 192.168.0.170 nginx(主)服务器、Tomcat服务器 192.168.0.171 nginx(从)服务器、Tomcat服务器 二、安装Tengine(Nginx)并添加服务 1.Tengine简介 Tengine是由淘宝网发起的Web服务器项目。它在 Nginx 的基础上，针对大访问量网站的需求，添加了很多高级功能和特性。Tengine的性能和稳定性已经在大型的网站如 淘宝网 ， 天猫商城 等得到了很好的检验。它的最终目标是打造一个高效、稳定、安全、易用的Web平台。 2.Tengine下载 http://tengine.taobao.org/download.html 下载对应的Tengine版本 3.安装nginx对应的依赖库 yum -y install gcc openssl-devel pcre-devel zlib-devel 4.解压缩Tengine到相对应的文件夹 tar -zxvf 到相对应的文件夹 5

Nginx+tomcat是目前主流的java web架构，如何让nginx+tomcat同时工作呢，也可以说如何使用nginx来反向代理tomcat后端均衡呢？直接安装配置如下： 1、JAVA JDK安装： #下载相应的jdk软件包，然后解压安装，我这里包名称为：jdk-7u25-linux-x64.tar.gz ? 1 tar -xzf jdk-7u25-linux-x64. tar .gz ; mkdir -p /usr/java/ ; mv jdk1.7.0_25/ /usr/java/ 下. #然后配置环境变量，这样可以任何地方引用jdk，如下配置： #vi /etc/profile 最后面加入以下语句： ? 1 2 3 4 5 export JAVA_HOME=/usr/java/jdk1.7.0_25 export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH:$HOMR/bin #source /etc/profile #使环境变量马上生效 #java --version #查看java版本，看到jdk1.7.0_25版本即代表java jdk安装成功。 2、Nginx安装： ? 1 2 3 4 5 6

LVS原理详解及部署 一、LVS简介 负载均衡集群是 load balance 集群的简写，翻译成中文就是负载均衡集群。常用的负载均衡开源软件有nginx、lvs、haproxy，商业的硬件负载均衡设备F5、Netscale。这里主要是学习 LVS 并对其进行了详细的总结记录。 二、LVS基本原理 当用户向负载均衡调度器（Director Server）发起请求，调度器将请求发往至内核空间。 PREROUTING链首先会接收到用户请求，判断目标IP确定是本机IP，将数据包发往INPUT链。 IPVS是工作在INPUT链上的，当用户请求到达INPUT时，IPVS会将用户请求和自己已定义好的集群服务进行比对，如果用户请求的就是定义的集群服务，那么此时IPVS会强行修改数据包里的目标IP地址及端口，并将新的数据包发往POSTROUTING链。 POSTROUTING链接收数据包后发现目标IP地址刚好是自己的后端服务器，那么此时通过选路，将数据包最终发送给后端的服务器。 三、LVS组成 LVS 由2部分程序组成，包括 ipvs 和 ipvsadm IPVS(ip virtual server) ：一段代码工作在内核空间，叫IPVS，是真正生效实现调度的代码。IPVS的总体结构主要由 IP包处理、负载均衡算法、系统配置与管理 三个模块及 虚拟服务器与真实服务器链表 组成。 ipvsadm

Nginx 的产生 Nginx 同 Apache 一样都是一种 Web 服务器。基于 REST 架构风格，以统一资源描述符（Uniform Resources Identifier）URI 或者统一资源定位符（Uniform Resources Locator）URL 作为沟通依据，通过 HTTP 协议提供各种网络服务。 然而，这些服务器在设计之初受到当时环境的局限，例如当时的用户规模，网络带宽，产品特点等局限并且各自的定位和发展都不尽相同。这也使得各个 Web 服务器有着各自鲜明的特点。 Apache 的发展时期很长，而且是毫无争议的世界第一大服务器。它有着很多优点：稳定、开源、跨平台等等。 它出现的时间太长了，它兴起的年代，互联网产业远远比不上现在。所以它被设计为一个重量级的。 它不支持高并发的服务器。在 Apache 上运行数以万计的并发访问，会导致服务器消耗大量内存。 操作系统对其进行进程或线程间的切换也消耗了大量的 CPU 资源，导致 HTTP 请求的平均响应速度降低。 这些都决定了 Apache 不可能成为高性能 Web 服务器，轻量级高并发服务器 Nginx 就应运而生了。 俄罗斯的工程师 Igor Sysoev，他在为 Rambler Media 工作期间，使用 C 语言开发了 Nginx。 Nginx 作为 Web 服务器一直为 Rambler Media

1、Nginx是什么？ nginx是一个开源的，支持高性能，高并发的www服务和代理服务软件。 nginx因具有高并发（特别是静态资源），占用系统资源少等特性，且功能丰富而逐渐流行起来。 nginx不但是一个优秀Web服务软件，还具有反向代理负载均衡功能和缓存服务功能， 与lvs负载均衡及Haproxy等专业代理软件相比，Nginx部署起来更为简单，方便；在缓存功能方面，它又类似于Squid等专业的缓存服务软件。 2、Nginx的重要特性 支持高并发：能支持几万并发连接（特别是静态小文件业务环境） 资源消耗少：在3万并发连接下，开启10哥Nginx线程消耗的内存不到200MB 可以做HTTP反向代理及加速缓存，即负载均衡功能，内置对RS节点服务器健康检查功能，这相当于专业的Haproxy软件或LVS的功能 具备Squid等专业缓存软件等的缓存功能。 支持异步网络I／O事件模型epoll（linux2.6+）。 3、Nginx常用功能 3.1、Http代理，反向代理：作为web服务器最常用的功能之一，尤其是反向代理。 3.2、负载均衡 Nginx提供的负载均衡策略有2种：内置策略和扩展策略。内置策略为轮询，加权轮询，Ip hash。 扩展策略，就天马行空，只有你想不到的没有他做不到的啦， 你可以参照所有的负载均衡算法，给他一一找出来做下实现。 Ip hash算法

首先准备三台虚拟机，一台做负载调度器（load balancer），它是整个集群对外面的前端机，负责将客户的请求发送到一组服务器上执行，而客户认为服务是来自一个IP地址（我们可称之为虚拟IP地址）上的。两台做服务器，是真正执行客户请求的服务器。 三台虚拟机须在同一个网段， 构建过程 调度器 绑定一个虚拟地址，对外服务 两种写法 /24 可写为 netmask255.255.255.0 ifconfig eth0:0 192.168.136.100/24 来源： CSDN 作者： 浮躁-lh 链接： https://blog.csdn.net/qq_42214376/article/details/103672916

Nginx在1.9.0版本开始支持tcp模式的负载均衡，在 1.9.13 版本开始支持udp协议的负载，udp主要用于DNS的域名解析，其配置方式和指令和http 代理类似，其基于 ngx_stream_proxy_module 模块实现tcp负载，另外基于模块 ngx_stream_upstream_module 实现后端服务器分组转发、权重分配、状态监测、调度算法等高级功能。 官方文档：https://nginx.org/en/docs/stream/ngx_stream_core_module.html 四层负载均衡实例–Redis 服务器安装redis [root@s4 ~]# yum install redis -y [root@s4 ~]# vim /etc/redis.conf bind 0.0.0.0 ...... [root@s4 ~]# systemctl start redis [root@s4 ~]# systemctl enable redis [root@s4 ~]# ss -tnl | grep 6379 LISTEN 0 128 *:6379 *:* nginx配置 [root@s2 ~]# mkdir /apps/nginx/conf/tcp [root@s2 ~]# cat /apps/nginx/conf/tcp/tcp.conf #自配置文件