负载均衡

1.轮询 其nginx.conf文件编写如下 upstream test { server 172.25.40.1:80 ; servse 172.25.40.2:8080 ; } 可选择是否用于后备’backup’ 轮询的方法是通过按照时间顺序将请求往不同的后端服务器发送，来缓解服务器的压力，如果后台的某个服务器down掉了，则剔除它，可以设置权重，来分配访问的频率。 2.权重轮询 其nginx.conf文件编写如下 upstream test { server 172.25.40.1:80 weight= 3 ; servse 172.25.40.2:8080 weight= 2 ; } 与之前提到的轮询比较类似，但是轮询只是单一的交替，而权重添加以后可以自己设定某个后端服务器被访问的频率，比如说上面给的例子，就是1号访问3次后，2号访问两次。 3.IP_hash 其nginx.conf文件编写如下 upstream test { ip_hash; server 172 .25 .40 .1 : 80 ; servse 172 .25 .40 .2 : 8080 ; } IP_hash的方法是通过将请求和访问按照IP来给其分配服务器，解决了动态网页共享session的问题，特定的IP只能固定访问一个后端服务器。 4.fair 其nginx.conf文件编写如下 upstream

负载均衡是分布式系统的常见功能，具有算法成熟，配置灵活，对系统性能有较大影响等特点。下面是目前比较流行的几种算法: a.Nginx负载均衡算法 总体思路: 计算权重总和和找出最大权重，然后最大权重的被选择 被选择后最大权重减去权重总和，可以使得不会总选上最大权重，使得负载更加平滑。 自身权重加上和原始权重等比例的权重来模拟随机性。 private static ServerForTest chooseServer(List<ServerForTest> servers) { double totalWeight = 0; double maxWeight = Double.NEGATIVE_INFINITY; ServerForTest chosen = null; for (ServerForTest server : servers) { server.setCurrentWeight(server.getWeight() + server.getCurrentWeight()); double currentWeight = server.getCurrentWeight(); totalWeight += currentWeight; if (currentWeight > maxWeight) { maxWeight = currentWeight; chosen =

一 什么是负载均衡 nginx 可以成为代理服务器（如何配置可以 点这里 看我上一篇博客）统一收敛流量，再将流量分发给后端服务器，当后端服务器不止一个时，就涉及分发算法问题，这就是 负载均衡 。通过合理地算法实现更高的负载及性能。 二 常见负载均衡算法 ll+weight： 轮询加权重(默认) ip_hash：基于Hash计算 ,用于保持session一至性 url_hash：静态资源缓存,节约存储，加快速度（第三方） least_conn ：最少链接（第三方） least_time ：最小的响应时间,计算节点平均响应时间，然后取响应最快的那个，分配更高权重（第三方） 接下来演示前两个 三 配置演示 配置 upstream 以及 location 可以实现负载均衡 注：我在虚拟机安装了两台tomcat，端口号一个时 8080 ，另一个是 8081 。（如何配置同时运行两台toncat可以看 这篇博客 ）两台tomcat的webapps目录下都有snowman/hello.html文件，内容tomcat1是“this is 111”，tomcat2是“this is 222”。 轮询算法 upstream servers { server 127.0.0.1:8080 weight=1; server 127.0.0.1:8081 weight=2; } location

在分布式系统中，为了实现系统的高性能、高并发、高可用，在构架中都会进行负载均衡设计，它是分布式系统的核心和中枢，负载均衡的好坏直接影响着整个系统的性能。负载均衡分为软件均衡和硬件均衡两类，比如apache、nginx、dubbo 等属于软件负载均衡，F5属于硬件负载均衡，当然他们都会使用到负载均衡算法。 常见的负载均衡算法包含： 1、轮询法（Round Robin） 2、加权轮询法（Weight Round Robin） 3、随机法（Random） 4、加权随机法（Weight Random） 5、平滑加权轮询法（Smooth Weight Round Robin） 6、源地址哈希法（Hash） 7、最小连接数法（Least Connections） 接下来的博客中会一一介绍如上几种算法，本文介绍轮询法。 轮询法是将请求按顺序轮流地分配到服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。 算法描述 假设有 N 台服务器 S = {S0, S1, S2, …, Sn}，算法可以描述为： 1、从 S0 开始依次调度 S1, S2, …, Sn； 2、若所有服务器都已被调度过，则从头开始调度； 假定我们现在有如下四台服务器： 服务器地址 权重 192.168.1.1 1 192.168.1.2 2 192.168.1.3 3 192.168.1.4 4

Nginx+keepalive 搭建负载均衡 准备两台服务器 两台接入服务器分别安装 NginX 和 keepalived: 准备依赖包： yum -y install gcc pcre-devel zlib-devel openssl-devel yum -y install popt-devel 下载 wget http://nginx.org/download/nginx-1.2.4.tar.gz wget http://www.keepalived.org/software/keepalived-1.2.7.tar.gz 安装 NginX 安装 keepalive tar zxvf keepalived-1.2.7.tar.gz cd keepalived-1.2.7 3 配置 3.1 配置 NginX 两台接入服务器的 NginX 的配置完全一样 , 主要是配置 /usr/local/nginx/conf/nginx.conf 的 http 。其中多域名指向是通过虚拟主机（配置 http 下面的 server ）实现；同一域名的不同虚拟目录通过每个 server 下面的不同 location 实现；到后端的服务器在 http 下面配置 upstream, 然后在 server 或 location 中通过 proxypass 引用。要实现前面规划的接入方式， http

常用负载均衡 HTTP 重定向 对于 HTTP 重定向，你一定不陌生，它可以将 HTTP 请求进行转移，在 Web 开发中我们经常会用它来完成自动跳转，比如用户登录成功后跳转到相应的管理页面。 这种重定向完全由 HTTP 定义，并且由 HTTP 代理和 Web 服务器共同实现。很简单，当 HTTP 代理（比如浏览器）向 Web 服务器请求某个 URL 后， Web 服务器可以通过 HTTP 响应头信息中的 Location 标记来返回一个新的 URL ，这意味着 HTTP 代理需要继续请求这个新的 URL ，这便完成了自动跳转。当然，如果你自己写了一个 HTTP 代理，也可以不支持重定向，也就是对于 Web 服务器返回的 Location 标记视而不见，虽然这可能不符合 HTTP 标准，但这完全取决于你的应用需要。 也正是因为 HTTP 重定向具备了请求转移和自动跳转的本领，所以除了满足应用程序需要的各种自动跳转之外，它还可以用于实现负载均衡，以达到 Web 扩展的目的。 DNS 负载均衡 我们知道， DNS 负责提供域名解析服务，当我们访问某个站点时，实际上首先需要通过该站点域名的 DNS 服务器来获取域名指向的 IP 地址，在这一过程中， DNS 服务器完成了域名到 IP 地址的映射，同样，这种映射也可以是一对多的，这时候， DNS 服务器便充当了负载均衡调度器（也称均衡器）

转发：https://blog.csdn.net/beihenanfei/article/details/78919682 #高并发架构相关概念# 并发： 在操作系统中，是指一个时间段中有几个程序都处于已启动运行到运行完毕之间，且这几个程序都是在同一个处理机上运行，但任意一个时刻上只有一个程序在处理机上运行。 我们说的高并发是什么？ 上面的定义明显不是我们通常所言的并发，在互联网时代，所讲的并发、高并发，通常是指并发访问。也就是在某个时间点，有多少个访问同时到来通常如果一个系统的日PV在千万以上，有可能是一个高并发的系统，但是有的公司完全不走技术路线，全靠机器堆，这不在我们的讨论范围。 高并发的问题，我们具体该关心什么？ QPS：每秒钟请求或者查询的数量，在互联网领域，指每秒响应请求数(指HTTP请求) 吞吐量：单位时间内处理的请求数量(通常由QPS与并发数决定) 响应时间：从请求发出到收到响应花费的时间，例如系统处理一个HTTP请求需要100ms，这个100ms就是系统的响应时间 PV：综合浏览量(Page View)，即页面浏览量或者点击量，一个访客在24小时内访问的页面数量，同一个人浏览你的网站同一页面，只记作一次PV UV：独立访问(UniQue Visitor)，即一定时间范围内相同访客多次访问网站，只计算为1个独立访客 带宽：计算带宽大小需关注两个指标

一、前言 在单一的服务器上执行WEB应用程序有一些重大的问题，当网站成功建成并开始接受大量请求时，单一服务器终究无法满足需要处理的负荷量，所以就有点显得有点力不从心了。另外一个常见的问题是会产生单点故障，如果该服务器坏掉，那么网站就立刻无法运作了。不论是因为要有较佳的扩充性还是容错能力，我们都会想在一台以上的服务器计算机上执行WEB应用程序。所以，这时候我们就需要用到集群这一门技术了。 在进入集群系统架构探讨之前，先定义一些专门术语： 1. 集群(Cluster)：是一组独立的计算机系统构成一个松耦合的多处理器系统，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。 2. 负载均衡(Load Balance)：先得从集群讲起，集群就是一组连在一起的计算机，从外部看它是一个系统，各节点可以是不同的操作系统或不同硬件构成的计算机。如一个提供Web服务的集群，对外界来看是一个大Web服务器。不过集群的节点也可以单独提供服务。 3. 特点：在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。集群系统(Cluster)主要解决下面几个问题： 高可靠性（HA）：利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。

什么是Ribbon？ 客户端负载均衡组件。 前期准备： 搭建一个Eureka集群和一个注册服务 https://www.cnblogs.com/noneplus/p/11374883.html 创建服务提供者msc-provider-5002,msc-provider-5003 创建消费者msc-consumer-80 pom依赖 服务提供者msc-provider-5001,msc-provider-5002，msc-provider-5003： <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.1.7.RELEASE</version> <relativePath/> <!-- lookup parent from repository --> </parent> <properties> <java.version>1.8</java.version> <spring-cloud.version>Greenwich.SR2</spring-cloud.version> </properties> <dependencies> <dependency> <groupId>org

CDN- 内容推送网络 前段时间介绍了 浏览器缓存机制 ，通过浏览器缓存一方面可以改善用户的体验，而不用漫长地等待从服务器下载资源；另一方面减轻服务器压力、节省流量。 CDN 是另一种可以大幅度优化用户体验，且减轻服务器压力的技术。下面就自己了解的 CDN 技术分享下。 CDN 的实现是一组技术的组合，每个技术都可以单独成文详细讨论，这里就不深入每个技术。内容目录： 1. 什么是CDN ？ 1 2. CDN 技术原理 ... 1 2.1. 分布式存储 ... 1 2.2. 内容管理 ... 2 2.3. 负载均衡 ... 2 2.4. 网络请求的重定向 ... 2 3. CDN 资源访问流程 ... 3 4. 关于 CDN 的疑问 ... 3 4.1. 使用 CDN 后，如何获取客户端真实 IP ？ ... 3 4.2. 采用 CDN 服务以后如何保证内容的更新和同步？ ... 4 1. 什么是 CDN ？ CDN 的全称是 Content Delivery Network ，即 内容分发网络 。其目的是通过在现有的 Internet 中增加一层新的网络架构，将网站的内容发布到最接近用户的网络 " 边缘 " （边缘服务器），使用户可以就近取得所需的内容，解决 Internet 网络拥挤的状况，提高用户访问网站的响应速度。从技术上全面解决由于网络带宽小、用户访问量大