kibana

supervisor 托管ELK

℡╲_俬逩灬. 提交于 2020-04-01 09:26:46
一、说说前因后果 elasticsearch,kafka,zookeeper,kibana,elasticsearch-head,logstash,logstash是需要经常重启的,你上了点过滤规则或者修改点啥的,每次都尼玛杀进程,再nohup ,还看不到日志,这太不符合人性了,人性的优点之一就是懒惰。打开web 界面,点一下鼠标解决问题岂不是棒棒哒,还能通过web 界面看看后台日志,故而用supervisor托管 supervisor运行的系统:centos 7 supervisor version:3.3.4 二、安装 用easy_install 安装pip easy_install pip #之后通过pip 安装supervisor pip install supervisor #为supervisor创建工作目录与配置文件目录并且赋予该目录755 的权限; mkdir -m 755 -p /etc/supervisor/conf.d #通过supervisor 提供的 echo_supervisord_conf 命令生成默认配置文件 echo_supervisord_conf > /etc/supervisor/supervisord.conf #通过cat 命令查看配置文件是否生成; cat /etc/supervisor/supervisord.conf |grep

supervisor 托管ELK

╄→гoц情女王★ 提交于 2020-04-01 09:18:05
一、说说前因后果 elasticsearch,kafka,zookeeper,kibana,elasticsearch-head,logstash,logstash是需要经常重启的,你上了点过滤规则或者修改点啥的,每次都尼玛杀进程,再nohup ,还看不到日志,这太不符合人性了,人性的优点之一就是懒惰。打开web 界面,点一下鼠标解决问题岂不是棒棒哒,还能通过web 界面看看后台日志,故而用supervisor托管 supervisor运行的系统:centos 7 supervisor version:3.3.4 二、安装 用easy_install 安装pip easy_install pip #之后通过pip 安装supervisor pip install supervisor #为supervisor创建工作目录与配置文件目录并且赋予该目录755 的权限; mkdir -m 755 -p /etc/supervisor/conf.d #通过supervisor 提供的 echo_supervisord_conf 命令生成默认配置文件 echo_supervisord_conf > /etc/supervisor/supervisord.conf #通过cat 命令查看配置文件是否生成; cat /etc/supervisor/supervisord.conf |grep

node-sass 安装失败的报错

蹲街弑〆低调 提交于 2020-04-01 06:07:33
转自: https://www.jianshu.com/p/92afe92db99f 报错: E:\kibana>npm install node-sass > node-sass@3.8.0 install E:\kibana\node_modules\node-sass > node scripts/install.js Cannot download "https://github.com/sass/node-sass/releases/download/v3.8.0/win3 2-x64-48_binding.node": tunneling socket could not be established, cause=socket hang up Hint: If github.com is not accessible in your location try setting a proxy via HTTP_PROXY, e.g. export HTTP_PROXY=http://example.com:1234 or configure npm proxy via npm config set proxy http://example.com:8080 > node-sass@3.8.0 postinstall E:\kibana\node_modules\node

ELK 之三:Kibana 使用与Tomcat、Nginx 日志格式处理

有些话、适合烂在心里 提交于 2020-03-31 16:10:56
一:kibana安装:   kibana主要是搜索elasticsearch的数据,并进行数据可视化的展现,新版使用nodejs。 1、下载地址: https://www.elastic.co/downloads/kibana 2、解压安装: [root@node6 local]# tar xvf kibana-4.1.1-linux-x64.tar.gz [root@node6 local]# mv kibana-4.1.1-linux-x64 kibana [root@node6 ~]# cd /usr/local/kibana/ [root@node6 kibana]# ls bin config LICENSE.txt node plugins README.txt src 3、编辑配置文件: [root@node6 kibana]# cd config/ [root@node6 config]# ls kibana.yml [root@node6 config]# vim kibana.yml elasticsearch_url: "http://192.168.10.206:9200" 4、直接启动: [root@node6 kibana]# bin/kibana {"name":"Kibana","hostname":"node6.a.com","pid":3942,

helm安装EFK

断了今生、忘了曾经 提交于 2020-03-31 10:18:15
原文地址: 点这里 1. 系统环境 确认heml镜像源并更新镜像仓库 2. 快速安装EFK 2.1 helm安装elasticsearch 2.2 helm安装fluented 2.3 helm安装kibana 2.4等待服务都起来,访问界面即可 3. helm安装EFk详细步骤 3.1 helm安装elasticsearch详细步骤 3.2 helm部署Fluent 3.3 helm部署Kibana 3.4等待服务都起来,访问界面即可 kibana报错1:版本不匹配 0. 简介   之前相信大家听过ELK工具栈,E: elasticsearch、L:logstash、K: kabana,其中logstash的缺点太重量级,Logstash性能低、资源消耗比较多、并且不支持消息队列缓存及存在数据丢失等问题,随后就有Fluentd出现,相比它更易用、资源消耗更少、性能更高,在数据处理上更高效可靠,受到企业欢迎,成为logstash的替代方案,亚马逊称其为数据收集的最佳方案EFK。 1. 系统环境 系统版本号CentOS 7.6 docker Client版本号18.09.7, Server版本号18.09.7 k8s版本号v1.16.2 helm Client版本号v2.13.1,Server版本号v2.13.1 确认helm镜像源并更新镜像仓库 [root@ops1 test]#

Filebeat快速入门

前提是你 提交于 2020-03-30 00:53:16
Filebeat快速入门 本笔记整理于 https://www.elastic.co/guide/en/beats/filebeat/current/filebeat-installation.html ,仅做个人学习总结使用。 Filebeat是轻量级日志采集工具,经常与ELK搭配使用,作为数据采集源头使用。 filebeat使用示意图 安装部署 Centos7(作者使用) 由于下载太慢了,所以我这里保存了一个下载好的版本(filebeat-6.3.2-linux-x86_64.tar),如果使用请自取: https://quqi.gblhgk.com/s/1727102/vafFOSOsw5AXKP3d 上传到服务器,解压即可 deb(未尝试): curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.6.1-amd64.deb sudo dpkg -i filebeat-7.6.1-amd64.deb rpm(未尝试): curl -L -O https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.6.1-x86_64.rpm sudo rpm -vi filebeat-7.6.1-x86_64.rpm

了解一下项目中所用到的开发工具(扫盲篇)

╄→尐↘猪︶ㄣ 提交于 2020-03-28 18:20:15
最近做的系统中有运用到类似这些页面化的工具kibana、rocketmq,swagger,quickBI,ES,Flowable,Dubbo admin,Rancher,xxjob,有很多新奇的东西不清楚怎么办,当然问度娘 --kibana   我在运用kibana过程中最多的是查报错日志,通过env,project,x_path和crid进行查询,定位报错日志。 实际百度到的作用不仅仅我所了解的功能 Kibana 是为 Elasticsearch设计的开源分析和可视化平台。你可以使用 Kibana 来搜索,查看存储在 Elasticsearch 索引中的数据并与之交互。你可以很容易实现高级的数据分析和可视化,以图标的形式展现出来。 Kibana 的使用场景,应该集中在两方面: 实时监控 通过 histogram 面板,配合不同条件的多个 queries 可以对一个事件走很多个维度组合出不同的时间序列走势。时间序列数据是最常见的监控报警了。 问题分析 关于 elk 的用途,可以参照其对应的商业产品 splunk 的场景:使用 Splunk 的意义在于使信息收集和处理智能化。而其操作智能化表现在: 搜索,通过下钻数据排查问题,通过分析根本原因来解决问题; 实时可见性,可以将对系统的检测和警报结合在一起,便于跟踪 SLA 和性能问题; 历史分析,可以从中找出趋势和历史模式

elasticsearch搜索引擎搭建

生来就可爱ヽ(ⅴ<●) 提交于 2020-03-28 07:42:59
在该路径下,运行elasticsearch.bat该命令,后面访问127.0.0.1:9200 出现如下界面说明启动成功 elasticsearch-head操作elasticsearch的图形界面,查看它的数据 elasticsearch-head 是用于监控 Elasticsearch 状态的客户端插件,包括数据可视化、执行增删改查操作等。elasticsearch-head 插件的安装在 Linux 和 Windows 没什么区别,安装之前确保当前系统已经安装 nodejs 即可。 启动elasticsearch-head 第一次无法访问可以在elasticsearch.yml配置一下,在下面添加如下参数 http.cors.enabled: true http.cors.allow-origin: "*" http.cors.allow-methods: OPTIONS, HEAD, GET, POST, PUT, DELETE http.cors.allow-headers: "X-Requested-With, Content-Type, Content-Length, X-User" 安装kibana插件,要和elasticsearch-head版本一致 Kibana 是一个设计出来用于和 Elasticsearch 一起使用的开源的分析与可视化平台,可以用

实践出真知——部署ELK日志分析系统(提供包,超详细,可跟做!)

走远了吗. 提交于 2020-03-27 23:09:44
实践出真知——部署ELK日志分析系统(提供包) 前言 ​ 前一篇文章介绍了有关ELK日志分析系统的理论原理,本文将结合原理通过案例环境部署及配置ELK日志分析系统。 环境规划 使用集群方式,2个Elasticsearch节点,其中一台安装Kibana即可,另外安装Apache服务作为被监控的服务器,安装Logstash。 相关规划如下表所示: 主机 操作系统 主机名 IP地址 主要安装软件 服务器 Centos7.4 node1 20.0.0.140 Elasticsearch Kibana 服务器 Centos7.4 node2 20.0.0.139 Elasticsearch 服务器 Centos7.4 Apache 20.0.0.141 Logstash Apache 部署流程综述 1、检查服务器环境(推荐先进行时间同步),找到所需软件包 2、在两个elasticsearch节点上部署elasticsearch环境、elasticsearch软件、 3、检查服务是否开启并在浏览器中验证、检查健康状态与查看状态信息 4、在两个elasticsearch节点上安装elasticsearch-head插件(方便查看集群信息) 5、通过浏览器验证、检查健康状态,模拟创建索引来验证信息 6、安装Apache服务在20.0.0.141服务器上,并且安装Logstash软件 7

elk+filebeat+redis日志系统部署

不打扰是莪最后的温柔 提交于 2020-03-27 19:35:28
日志系统架构图 软件版本: filebeat-7.5.1 elasticsearch-7.5.1 logstash-7.5.1 kibana-7.5.1 redis-5.0.8 主机: system:Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch、kibana、logstash 192.168.1.103 安装 redis 192.168.1.111 安装 filebeat、nginx 192.168.1.79 安装 filebeat、nginx JDK:jdk-8u231-linux-x64 安装: 1、安装elasticsearch(单机) 修改环境参数,配置线程个数。修改配置文件/etc/security/limits.conf,增加配置 * hard nofile 65536 * soft nofile 65536 * soft nproc 2048 * hard nproc 4096 修改/etc/sysctl.conf文件,增加配置: vim /etc/sysctl.conf vm.max_map_count=262144 执行 sysctl -p 命令,使配置生效 增加普通用户 groupadd elsearch --- 添加elsearch组 useradd elsearch -g elsearch --