ElasticSearch

Zipkin 链路追踪工具

こ雲淡風輕ζ 提交于 2020-10-20 04:14:19
前言 Zipkin 是一个开放源代码分布式的跟踪系统,每个服务向zipkin报告计时数据,zipkin会根据调用关系通过Zipkin UI生成依赖关系图。 Zipkin提供了可插拔数据存储方式:In-Memory、MySql、Cassandra以及Elasticsearch。为了方便在开发环境我直接采用了In-Memory方式进行存储,生产数据量大的情况则推荐使用Elasticsearch。 基本术语 Span:基本工作单元,例如,在一个新建的span中发送一个RPC等同于发送一个回应请求给RPC,span通过一个64位ID唯一标识,trace以另一个64位ID表示,span还有其他数据信息,比如摘要、时间戳事件、关键值注释(tags)、span的ID、以及进度ID(通常是IP地址) span在不断的启动和停止,同时记录了时间信息,当你创建了一个span,你必须在未来的某个时刻停止它。 Trace:一系列spans组成的一个树状结构,例如,如果你正在跑一个分布式大数据工程,你可能需要创建一个trace。 Annotation:用来及时记录一个事件的存在,一些核心annotations用来定义一个请求的开始和结束 cs - Client Sent -客户端发起一个请求,这个annotion描述了这个span的开始 sr - Server Received

一文了解Docker容器技术的操作

偶尔善良 提交于 2020-10-20 04:11:38
一文了解Docker容器技术的操作 前言 一、Docker是什么 二、Docker的安装及测试 Docker的安装 Docker的Hello world测试 三、Docker的常见操作 镜像的基本操作 容器的基本操作 镜像、容器的导入和导出 四、关于DockerFile 总结 前言 相信点进这篇文章的Coder,不管是在各大技术论坛上、技术交流群,亦或招聘网上,应该都有见到过Doker容器技术的面孔,随着社会节奏的加快以及迫于生活的压力,在计算机技术日新月异的今天,真正能够沉下心来学习一门技术的时间真的不多。趁着这段空闲的时间,涛耶也该是时候把过去学习时所积累的笔记沉淀一下了。本文主要是从是什么、为什么、怎么做的角度来介绍Docker容器技术的入门,能让初次接触Docker容器技术的朋友更快更便捷的使用Docker。 一、Docker是什么 对于Docker,官方的介绍如下: Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的镜像中,然后发布到任何流行的 Linux或Windows机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口。 在实际的开发过程中,我们往往会因为环境的搭建而浪费过多的时间,而现如今有了Docker容器技术的支持,我们不再过于担心各种因为环境问题而造成的过多时间的浪费

MongoDB迁移数据到Elasticsearch真实操作案例

江枫思渺然 提交于 2020-10-19 09:57:08
· 需求 1、迁移MongoDB中的存量数据到Elasticsearch 2、增量数据业务方会写到MongoDB,但数据变更也要实时同步到Elasticsearch 经过数日的工具特性和我的需求对比之后,我选择了monstache来完成这次的需求。不言而喻,它可以满足我前面提到的需求。 调试过程 1、选择适合你的monstache版本(符合你的es版本、mongodb版本) 版本参考如下: 我的各个版本如下: es: 6.7.0 mongo: 3.2.13 所以我选择 monstache:4版本,对应master分支 2、monstache是使用golang语言开发,首先要安装go环境,需要注意的是要安装符合你monstache的go版本,怎么试?继续往下看,别着急。 我这里需要安装go1.13.6 1、安装 sudo wget https://dl.google.com/go/go1.13.6.linux-amd64.tar.gz tar -C /usr/local -xzf go1.13.6.linux-amd64.tar.gz 2、配置环境变量 vim /etc/profile ... export GOROOT=/usr/local/go export GOPATH=/home/go/ export PATH=$PATH:$GOROOT/bin:$GOPATH/bin

#Es问题:max virtual memory

安稳与你 提交于 2020-10-18 13:53:59
问题:启动Elasticsearch6.7.2的时候遇到的错误。 max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144] Elasticsearch用户拥有的内存权限太小,至少需要262144。 解决方案: 切换到root用户 执行命令:sysctl -w vm.max_map_count=262144 查看结果:sysctl -a|grep vm.max_map_count 显示:vm.max_map_count = 262144 上述方法修改之后,如果重启虚拟机将失效。 解决办法:在 /etc/sysctl.conf文件最后添加一行vm.max_map_count=262144,即可永久修改 来源: oschina 链接: https://my.oschina.net/u/3727895/blog/4291056