集群服务器

什么是docker swarm? Swarm 在 Docker 1.12 版本之前属于一个独立的项目，在 Docker 1.12 版本发布之后，该项目合并到了 Docker 中，成为 Docker 的一个子命令。目前，Swarm 是 Docker 社区提供的唯一一个原生支持 Docker 集群管理的工具。它可以把多个 Docker 主机组成的系统转换为单一的虚拟 Docker 主机，使得容器可以组成跨主机的子网网络。 Docker Swarm 是一个为 IT 运维团队提供集群和调度能力的编排工具。用户可以把集群中所有 Docker Engine 整合进一个「虚拟 Engine」的资源池，通过执行命令与单一的主 Swarm 进行沟通，而不必分别和每个 Docker Engine 沟通。在灵活的调度策略下，IT 团队可以更好地管理可用的主机资源，保证应用容器的高效运行。 Swarm的基本架构如下图所示: Docker Swarm 优点 任何规模都有高性能表现 对于企业级的 Docker Engine 集群和容器调度而言，可拓展性是关键。任何规模的公司——不论是拥有五个还是上千个服务器——都能在其环境下有效使用 Swarm。 经过测试，Swarm 可拓展性的极限是在 1000 个节点上运行 50000 个部署容器，每个容器的启动时间为亚秒级，同时性能无减损。 灵活的容器调度 Swarm

马蜂窝技术原创文章，更多干货请订阅公众号：mfwtech Kafka 是当下热门的消息队列中间件，它可以实时地处理海量数据，具备高吞吐、低延时等特性及可靠的消息异步传递机制，可以很好地解决不同系统间数据的交流和传递问题。 Kafka 在马蜂窝也有非常广泛的应用，为很多核心的业务提供支撑。本文将围绕 Kafka 在马蜂窝大数据平台的应用实践，介绍相关业务场景、在 Kafka 应用的不同阶段我们遇到了哪些问题以及如何解决、之后还有哪些计划等。 Part.1 应用场景 从 Kafka 在大数据平台的应用场景来看，主要分为以下三类： 第一类是将 Kafka 作为数据库 ，提供大数据平台对实时数据的存储服务。从来源和用途两个维度来说，可以将实时数据分为业务端 DB 数据、监控类型日志、基于埋点的客户端日志 (H5、WEB、APP、小程序) 和服务端日志。 第二类是为数据分析提供数据源 ，各埋点日志会作为数据源，支持并对接公司离线数据、实时数据仓库及分析系统，包括多维查询、实时 Druid OLAP、日志明细等。 第三类是为业务方提供数据订阅 。除了在大数据平台内部的应用之外，我们还使用 Kafka 为推荐搜索、大交通、酒店、内容中心等核心业务提供数据订阅服务，如用户实时特征计算、用户实时画像训练及实时推荐、反作弊、业务监控报警等。 主要应用如下图所示： Part.2 演进之路 四个阶段

转自： https://blog.csdn.net/bingduanlbd/article/details/51914550#t24 1. 介绍 在现代的企业环境中，单机容量往往无法存储大量数据，需要跨机器存储。统一管理分布在集群上的文件系统称为分布式文件系统。而一旦在系统中，引入网络，就不可避免地引入了所有网络编程的复杂性，例如挑战之一是如果保证在节点不可用的时候数据不丢失。 传统的网络文件系统（NFS）虽然也称为分布式文件系统，但是其存在一些限制。由于NFS中，文件是存储在单机上，因此无法提供可靠性保证，当很多客户端同时访问NFS Server时，很容易造成服务器压力，造成性能瓶颈。另外如果要对NFS中的文件中进行操作，需要首先同步到本地，这些修改在同步到服务端之前，其他客户端是不可见的。某种程度上，NFS不是一种典型的分布式系统，虽然它的文件的确放在远端（单一）的服务器上面。 从NFS的协议栈可以看到，它事实上是一种VFS（操作系统对文件的一种抽象）实现。 HDFS，是Hadoop Distributed File System的简称，是Hadoop抽象文件系统的一种实现。Hadoop抽象文件系统可以与本地系统、Amazon S3等集成，甚至可以通过Web协议（webhsfs）来操作。HDFS的文件分布在集群机器上，同时提供副本进行容错及可靠性保证

一 安装实现步骤 1 实现原理图 2 关闭Windows防火墙 3 关闭Linux防火墙 1) 永久关闭防火墙 2) 临时关闭防火墙 特点: 如果当虚拟机重启之后, 则防火墙依然开启 4 修改YML配置文件 5 修改Mysql对外访问权限 1) 说明 mysql默认条件下允许本机访问, 如果需要通过远程请求的方式访问mysql时 则必须开启对外的权限 2) 语法 3) 开启对外访问权限 4) 检查权限 6 实现Linux的部署 1) 将项目打包 2) 新建tomcat包路径 3) 上传项目 4) 启动tomcat服务器 7 Linux服务器校验 8 修改Nginx服务器 1) 修改的文件 2) 配置 9 启动Nginx 1) 找到安装Nginx的路径 2) 把原有的路径删了, 输入cmd 3) 打开Nginx 4) 输入启动命令 二 关于tomcat服务器端口占用问题 1 图中表示端口被占用 , 关闭全部tomcat服务器 , 重启 2 查询全部服务命令 ps -ef | grep java* 3 杀死进程项 kill PID 三 批量启动tomcat 来源： CSDN 作者： 乐观的小马 链接： https://blog.csdn.net/weixin_43694465/article/details/103809972

安装部署k8s_v1.11 K8s简介 1.背景介绍 　　云计算飞速发展 　　　　- IaaS 　　　　- PaaS 　　　　- SaaS 　　Docker技术突飞猛进 　　　　- 一次构建，到处运行 　　　　- 容器的快速轻量 　　　　- 完整的生态环境 2.什么是kubernetes 　　首先，他是一个全新的基于容器技术的分布式架构领先方案。Kubernetes(k8s)是Google开源的容器集群管理系统（谷歌内部:Borg）。在Docker技术的基础上，为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能，提高了大规模容器集群管理的便捷性。 　　Kubernetes是一个完备的分布式系统支撑平台，具有完备的集群管理能力，多扩多层次的安全防护和准入机制、多租户应用支撑能力、透明的服务注册和发现机制、內建智能负载均衡器、强大的故障发现和自我修复能力、服务滚动升级和在线扩容能力、可扩展的资源自动调度机制以及多粒度的资源配额管理能力。同时Kubernetes提供完善的管理工具，涵盖了包括开发、部署测试、运维监控在内的各个环节。 Kubernetes中，Service是分布式集群架构的核心，一个Service对象拥有如下关键特征： • 拥有一个唯一指定的名字 • 拥有一个虚拟IP（Cluster IP、Service IP、或VIP）和端口号 •

大数据技术的体系庞大且复杂，基础的技术包含数据的采集、数据预处理、分布式存储、NoSQL数据库、数据仓库、机器学习、并行计算、可视化等各种技术范畴和不同的技术层面。首先给出一个通用化的大数据处理框架，主要分为下面几个方面：数据采集与预处理、数据存储、数据清洗、数据查询分析和数据可视化。 一、数据采集与预处理 对于各种来源的数据，包括移动互联网数据、社交网络的数据等，这些结构化和非结构化的海量数据是零散的，也就是所谓的数据孤岛，此时的这些数据并没有什么意义，数据采集就是将这些数据写入数据仓库中，把零散的数据整合在一起，对这些数据综合起来进行分析。数据采集包括文件日志的采集、数据库日志的采集、关系型数据库的接入和应用程序的接入等。在数据量比较小的时候，可以写个定时的脚本将日志写入存储系统，但随着数据量的增长，这些方法无法提供数据安全保障，并且运维困难，需要更强壮的解决方案。 Flume NG作为实时日志收集系统，支持在日志系统中定制各类数据发送方，用于收集数据，同时，对数据进行简单处理，并写到各种数据接收方(比如文本，HDFS，Hbase等)。Flume NG采用的是三层架构：Agent层，Collector层和Store层，每一层均可水平拓展。其中Agent包含Source，Channel和 Sink，source用来消费(收集)数据源到channel组件中

用一个例子介绍集群与分布式： 小餐馆原来只有一个厨师，切菜洗菜备料炒菜他都全干。后来餐馆的客人多了，厨房里一个厨师忙不过来，又请了个厨师，两个厨师都能炒一样的菜，这两个厨师的关 系是集群。为了让厨师专心炒菜，把菜做到极致，又请了个配菜师负责切菜，备菜，备料，厨师和配菜师的关系是分布式，一个配菜师也忙不过来了，又请了个配菜 师，两个配菜师关系是集群。 一、分布式： 分布式是指将多台服务器集中在一起，每台服务器都实现总体中的不同业务，做不同的事情。并且每台服务器都缺一不可，如果某台服务器故障，则网站部分功能缺失，或导致整体无法运行。存在的主要作用是大幅度的提高效率，缓解服务器的访问和存储压力。 分布式的优点是细化了应用程序的功能模块，同时也减轻了一个完整的应用程序部署在一台服务器上的负担，用了分布式拆分后，就相当于把一个应用程序的多个功能分配到多台服务器上去处理了。 注意：该图中最大特点是：每个Web服务器（Tomcat）程序都负责一个网站中不同的功能，缺一不可。如果某台服务器故障，则对应的网站功能缺失，也可以导致其依赖功能甚至全部功能都不能够使用。 二、集群： 集群是是指将多台服务器集中在一起，每台服务器都实现相同的业务，做相同的事情。但是每台服务器并不是缺一不可，存在的作用主要是缓解并发压力和单点故障转移问题。可以利用一些廉价的符合工业标准的硬件构造高性能的系统。实现：高扩展

一、部署前准备： 　　1、下载ZooKeeper的安装包： 　　　　http://zookeeper.apache.org/releases.html 我下载的版本是zookeeper-3.4.9。 　　2、将下载的zookeeper-3.4.9包放到/opt目录下，目录结构如下图所示： 　 3、在/tmp目录下新建一个zookeeper目录，并在zookeeper目录下新建一个data目录。 　 4、三台linux系统的ip： 　　　　　　ip1:10.43.98.6 　　　　　　ip2:10.43.98.8 　　　　　　ip3:10.43.98.18 　　 　　5、安装jdk8： 　　　　下载路径：http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html，我选择的是jdk-8u112-linux-i586.tar.gz（Linux x64）。 　　下载下来后拷贝到/usr/java目录下，然后：tar-zxvf jdk-8u112-linux-i586.tar.gz解压后目录下有一个jdk1.8.0_111文件下。然后通过vi /etc/profile命令来设置环境变量： 　　　　export JAVA_HOME=/usr/java/jdk1.8.0_111 　　　

Zookeeper 方案 主机IP 消息端口 通信端口 节点目录/usr/local/下 192.168.1.108 2181 2888:3888 zookeeper 192.168.1.109 2181 2888:3888 zookeeper 192.168.1.120 2181 2888:3888 zookeeper 之所以数目为奇数，方便管理算法管理。提升管理性能。 实现步骤 （三台机子统一修改） 1.准备Zookeeper安装包并上传到服务器中。 官网下载 csdn下载 2.解压 tar -zxvf zookeeper-3.4.5.tar.gz -C /usr/local mv zookeeper-3.4.5 zookeeper 3.修改配置 # 设置环境变量 vim /etc/profile # 写入的内容如下 export ZOOKEEPER_HOME=/usr/local/zookeeper/ #zookeeper路径 export PATH=$PATH:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf # 让配置文件生效 source /etc/profile # 修改配置文件准备 cd /usr/local/zookeeper/conf #进到配置文件目录 mv zoo_sample.cfg zoo.cfg #改配置文件名

什么是主从同步（复制） 主从复制，是指将一台Redis服务器的数据，复制到其他的Redis服务器。前者称为主节点(master)，后者称为从节点(slave),数据的复制是单向的，只能由主节点到从节点。 默认情况下，每台Redis服务器都是主节点；且一个主节点可以有多个从节点(或没有从节点)，但一个从节点只能有一个主节点。 主从复制的作用 数据冗余：主从复制实现了数据的热备份，是持久化之外的一种数据冗余方式。 故障恢复：当主节点出现问题时，可以由从节点提供服务，实现快速的故障恢复；实际上是一种服务的冗余。 负载均衡：在主从复制的基础上，配合读写分离，可以由主节点提供写服务，由从节点提供读服务（即写Redis数据时应用连接主节点，读Redis数据时应用连接从节点），分担服务器负载；尤其是在写少读多的场景下，通过多个从节点分担读负载，可以大大提高Redis服务器的并发量。 读写分离：可以用于实现读写分离，主库写、从库读，读写分离不仅可以提高服务器的负载能力，同时可根据需求的变化，改变从库的数量； 高可用基石：除了上述作用以外，主从复制还是哨兵和集群能够实施的基础，因此说主从复制是Redis高可用的基础。 Redis之主从同步的实现原理 1.当从库和主库建立ms（master和slave）关系后，会向主库发送sync命令。 2.收到SYNC命令的主服务器执行BGSAVE命令