kibana

ELK环境的部署与安装

末鹿安然 提交于 2020-02-19 20:06:19
ELK简介 Elasticsearch :是一个高度可扩展的开源全文搜索和分析引擎。能够快速,实时的存储,搜索和分析大量数据,通常用做底层引擎技术。 Kibana :是一个开源分析和可视化平台,是进入Elastic Stack的窗口,可以在Elasticsearch中对程序的数据进行可视化探索和实时分析,旨在与Elasticsearch协同工作。 使用Kibana搜索,查看和与存储在Elasticsearch索引中的数据进行交互,可以轻松执行数据分析,并在各种表格,图标和地图中查看数据,基于浏览器的界面能够快速创建和共享动态仪表板 Logstash :是一个具有实时功能的开源数据收集引擎。Logstash可以动态统一来自不同来源的数据,并将数据标准化到所在的目录文件中 1.水平和扩展的数据处理管道,具有强大的Elasticsearch和Kibana协同作用 2.混合,匹配和编排不同的输入,过滤器和输出,以便在管道协调中发挥作用 3.插件丰富,提供能过的灵活性 安装ELK环境 在安装这些软件的首要准备就是 需要最新的java-JDK运行环境。在官网下载最新的java和对应的JDK 设置java的环境变量 下载最新的java环境安装包 下载地址:https://download.oracle.com/otn-pub/java/jdk/11.0.1+13

集群日志收集架构ELK

浪尽此生 提交于 2020-02-18 21:03:44
前言 前几篇我们介绍了项目中 如何使用logback组件记录系统的日志情况 ;现在我们的系统都是分布式的,集群化的,那就代表着**我们的应用会分布在很多服务器上面;**那应用的日志文件就会分布在各个服务器上面。 问题 突然有一天我们系统出现了问题,我们第一时间想到的是 先要判断到底哪个服务出现了问题 ;我们的技术人员就连接生产环境服务器,查看服务器上面的应用日志。 那么多的服务器,技术人员这个时候就会很抓狂 ,一个个的查看分析日志,是比较愚蠢的方法。那有什么好的方式呢?今天老顾给大家介绍常规的方案。 ELK方案 ELK 是elastic公司提供的一套完整的日志收集以及展示的解决方案 ,是三个产品的首字母缩写,分别是ElasticSearch、Logstash 和 Kibana。 ElasticSearch简称ES ,它是一个 实时的分布式搜索和分析引擎 ,它可以用于全文搜索,结构化搜索以及分析。它是一个 建立在全文搜索引擎 Apache Lucene 基础上的搜索引擎 ,使用 Java 语言编写。 Logstash是一个具有实时传输能力的数据收集引擎 ,用来进行数据收集(如:读取文本文件)、解析,并将数据 发送给ES 。 Kibana为 Elasticsearch 提供了分析和可视化的 Web 平台 。它可以在 Elasticsearch 的索引中查找,交互数据,并生成各种维度表格

ElasticSearch和Kibana的安装使用

五迷三道 提交于 2020-02-17 19:14:25
ElasticSearch Elasticsearch 是一个分布式、可扩展、实时的搜索与数据分析引擎。 它能从项目一开始就赋予你的数据以搜索、分析和探索的能力,可用于实现全文搜索和实时数据统计。 ElasticSearch的安装与使用 下载Elasticsearch6.2.2的zip包,并解压到指定目录,下载地址: https://www.elastic.co/cn/downloads/past-releases/elasticsearch-6-2-2 2.安装中文分词插件,在elasticsearch-6.2.2\bin目录下执行以下命令:elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v6.2.2/elasticsearch-analysis-ik-6.2.2.zip 3.运行bin目录下的elasticsearch.bat启动Elasticsearch 4.下载Kibana,作为访问Elasticsearch的客户端,请下载6.2.2版本的zip包,并解压到指定目录,下载地址:https://artifacts.elastic.co/downloads/kibana/kibana-6.2.2-windows-x86_64.zip

Running a local kibana in a container

浪尽此生 提交于 2020-02-17 07:38:30
问题 I am trying to run use kibana console with my local elasticsearch (container) In the ElasticSearch documentation I see docker run -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" docker.elastic.co/elasticsearch/elasticsearch:6.2.2 Which lets me run the community edition in a quick one liner. Looking at the kibana documentation i see only docker pull docker.elastic.co/kibana/kibana:6.2.2 Replacing pull with run it looks for the x-pack (I think it means not community) and fails to find

Running a local kibana in a container

丶灬走出姿态 提交于 2020-02-17 07:36:08
问题 I am trying to run use kibana console with my local elasticsearch (container) In the ElasticSearch documentation I see docker run -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" docker.elastic.co/elasticsearch/elasticsearch:6.2.2 Which lets me run the community edition in a quick one liner. Looking at the kibana documentation i see only docker pull docker.elastic.co/kibana/kibana:6.2.2 Replacing pull with run it looks for the x-pack (I think it means not community) and fails to find

Elastic Stack 7.5.0

你说的曾经没有我的故事 提交于 2020-02-17 02:42:16
原文: Elastic Stack 7.5.0白金版永不过期 适用版本:7.4.0~7.5.0 警告:本文章仅限于学习,非商业用途。 目录结构 # 先创建相关目录,具体结构如下: /opt |-- bulid # 编译目录 | |- src |-- install # 存放tar.gz安装包文件 |-- src # 存放源码文件 mkdir -p /opt/build/src mkdir -p /opt/install mkdir -p /opt/src 下载安装包 cd /opt/install wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.5.0-linux-x86_64.tar.gz tar zxvf elasticsearch-7.5.0-linux-x86_64.tar.gz cd .. # 返回到/opt目录 下载源码 cd /opt/src # 官方github地址:https://github.com/elastic/elasticsearch # 国内码云地址:https://gitee.com/mirrors/elasticsearch # 建议使用国内码云地址,选择好跟安装包同版本的tags,然后clone源码 git clone https://gitee

kibana monitoring页面

自闭症网瘾萝莉.ら 提交于 2020-02-16 14:11:06
一、监控页面包括集群级别,节点级别以及索引级别 1、总视图 2、集群概述 3、节点概述 3.1、主节点 上述每个图的含义如下: 3.2、主节点高级 3.3、node节点 3.4、node节点高级 4、索引概述 4.1、索引 4.2、索引高级 来源: https://www.cnblogs.com/1zhangwenjing/p/12316461.html

Spring Cloud集成ELK完成日志收集实战(elasticsearch、logstash、kibana)

梦想与她 提交于 2020-02-16 03:09:36
简介 对于日志来说,最常见的需求就是收集、存储、查询、展示,开源社区正好有相对应的开源项目: logstash(收集)、elasticsearch(存储+搜索)、kibana(展示) ,我们将这三个组合起来的技术称之为ELK,所以说ELK指的是Elasticsearch、Logstash、Kibana技术栈的结合。ELK对外作为一个日志管理系统的开源方案,能够可靠和安全地从任何格式的任何来源获取数据,并实时搜索、分析和可视化。 1 Elasticsearch elasticsearch是一个高可扩展的、开源的、全文本搜索和分析的引擎 。它能够近乎实时地存储,检索和分析大量数据,通常用作底层引擎/技术,为具有复杂搜索特性和需求的应用程序提供动力。 elasticsearch的底层是开源库 Lucene。但是,你没法直接用 Lucene,必须自己写代码去调用它的接口。Elastic 是 Lucene 的封装,提供了 REST API 的操作接口,开箱即用。 1.1节点和集群 elasticsearch 本质上是一个分布式数据库,允许多台服务器协同工作,每台服务器可以运行多个 elasticsearch 实例。 单个 elasticsearch 实例称为一个节点(node)。一组节点构成一个集群(cluster) 。 1.2索引(Index) elasticsearch 会索引所有字段

Elk安装与部署

≡放荡痞女 提交于 2020-02-12 04:16:43
什么是ELK Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。 Logstash是一个完全开源的工具,他可以对你的日志进行收集、过滤,并将其存储供以后使用(如,搜索)。 Kibana 也是一个开源和免费的工具,它Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,可以帮助您汇总、分析和搜索重要数据日志 Filebeat隶属于Beats。目前Beats包含四种工具: Packetbeat(搜集网络流量数据) Topbeat(搜集系统、进程和文件系统级别的 CPU 和内存使用情况等数据) Filebeat(搜集文件数据) Winlogbeat(搜集 Windows 事件日志数据) 操作系统 IP地址 主要软件 centos7 10.0.0.73 jdk,elasticsearch,kibana centos7 10.0.0.74 jdk,logstash ##10.0.0.73操作 安装Elk包 [ root@ localhost ~ ] # unzip ELK.zip Archive: ELK.zip inflating: ELK/elasticsearch-6.6.2.rpm inflating: ELK/jdk

Elasticsearch 日期时间处理

為{幸葍}努か 提交于 2020-02-11 11:56:09
Elasticsearch中定义时间的类型为Date Elasticsearch原生支持date类型,json格式通过字符来表示date类型。所以在用json提交日期至elasticsearch的时候,es会隐式转换, 把es认为是date类型的字符串直接转为date类型。至于什么样的字符串es会认为可以转换成date类型,参考elasticsearch官网介绍: https://www.elastic.co/guide/en/elasticsearch/reference/current/mapping-date-format.html date type默认格式: "strict_date_optional_time||epoch_millis" date类型是包含时区信息的,如果我们没有在json代表日期的字符串中显式指定时区,对es来说没什么问题, 但是如果通过kibana显示es里的数据时,就会出现问题,数据的时间会晚8个小时。因为kibana从es里读取的date类型数据,没有时区信息, kibana会默认当作0时区来解析,但是kibana在通过浏览器展示的时候,会通过js获取当前客户端机器所在的时区,也就是东八区, 所以kibana会把从es得到的日期数据减去8小时。这里就会导致kibana经常遇到的“数据时间延迟8小时”的问题。 所以最佳实践方案就是