ElasticSearch

Elasticsearch/Elasticsearch-head安装总结

ε祈祈猫儿з 提交于 2021-02-18 02:26:39
#下载 wget http://yellowcong.qiniudn.com/elasticsearch-6.0.0.tar.gz #解压 tar -zxvf elasticsearch-6.0.0.tar.gz #添加用户 adduser jing #设定密码 passwd jing #添加权限 chown -R yellowcong elasticsearch-6.0.0 #切换用户 su jing #查看当前用户 who am i #启动elasticsearch #修改sysctl配置 vim /etc/sysctl.conf #添加如下配置 vm.max_map_count=655360 #让配置生效 sysctl -p #查看配置的数目 sysctl -a|grep vm.max_map_count #配置limits.conf vim /etc/security/limits.conf #jing 是用户名 jing hard nofile 65536 jing soft nofile 65536 #重新登录 jing 账户,查看是否生效 su jing #查看配置是否生效 ulimit -Hn #修改elasticsearch.yml文件 bootstrap.memory_lock: false bootstrap.system_call_filter: false

Django Haystack 全文检索与关键词高亮

点点圈 提交于 2021-02-18 01:54:30
https://juejin.im/post/5e453da151882549431fe2ab 作者: HelloGitHub-追梦人物 文中所涉及的示例代码,已同步更新到 HelloGitHub-Team 仓库 博客提供 RSS 订阅应该是标配,这样读者就可以通过一些聚合阅读工具订阅你的博客,时时查看是否有文章更新,而不必每次都跳转到博客上来查看。现在我们就来为博客添加 RSS 订阅功能。 在此之前我们使用了 Django 内置的一些方法实现了一个简单的搜索功能。但这个搜索功能实在过于简单,没有多大的实用性。对于一个搜索引擎来说,至少应该能够根据用户的搜索关键词对搜索结果进行排序以及高亮关键字。现在我们就来使用 django-haystack 实现这些特性。 Django Haystack 简介 django-haystack 是一个专门提供搜索功能的 django 第三方应用,它支持 Solr、Elasticsearch、Whoosh、Xapian 等多种搜索引擎,上一版本的教程中我们使用 Whoosh 加 jieba 中文分词的方案,原因是为了简单,无需安装外部服务。但现在有了 docker,安装一个外部服务就是轻而易举的事情,所以这次我们采用更为强大的 elasticsearch 作为我们博客的搜索引擎,同时使用 elasticsearch 的中文分词插件 ik

Docker - ELK - vm.max_map_count

浪尽此生 提交于 2021-02-17 15:20:34
问题 I'm trying to use the docker's image elk-docker (https://elk-docker.readthedocs.io/) , using Docker Compose. The .yml file, is like this: elk: image: sebp/elk ports: - "5601:5601" - "9200:9200" - "5044:5044" When I run the command: sudo docker-compose up, the console shows: * Starting Elasticsearch Server sysctl: setting key "vm.max_map_count": Read-only file system ...fail! waiting for Elasticsearch to be up (1/30) waiting for Elasticsearch to be up (2/30) waiting for Elasticsearch to be up

Docker - ELK - vm.max_map_count

≯℡__Kan透↙ 提交于 2021-02-17 15:19:33
问题 I'm trying to use the docker's image elk-docker (https://elk-docker.readthedocs.io/) , using Docker Compose. The .yml file, is like this: elk: image: sebp/elk ports: - "5601:5601" - "9200:9200" - "5044:5044" When I run the command: sudo docker-compose up, the console shows: * Starting Elasticsearch Server sysctl: setting key "vm.max_map_count": Read-only file system ...fail! waiting for Elasticsearch to be up (1/30) waiting for Elasticsearch to be up (2/30) waiting for Elasticsearch to be up

How to search nested objects with elastic-search

倖福魔咒の 提交于 2021-02-17 08:18:09
问题 OK, I've not been able to figure this out thus far. Hoping someone can offer some insight. Given the documents below, how would I search for all documents with a video that has "test" in the video title? I'm using the HTTP API. (Basically, how do you search nested objects with elastic search? I know there has to be docs out there, but I haven't really been able to find any.) [{ id:4635, description:"This is a test description", author:"John", author_id:51421, video: { title:"This is a test

总结:被MySQL UTF8编码坑的惨痛教训...

旧城冷巷雨未停 提交于 2021-02-17 04:30:30
最近遇到几个项目被MySQL的utf8编码坑,想起之前编码问题被坑的惨痛教训,记录一下,警示自己。 曾几何时,每次建库都选utf8,觉得自己比那些用乱七八糟编码的人不知道酷到哪里去了。直到好多年前的某次课程设计做项目的时候,愉快的建了个用户表: CREATE TABLE `test_user` ( `id` int ( 11 ) unsigned NOT NULL AUTO_INCREMENT, `name` varchar ( 32 ) DEFAULT NULL , PRIMARY KEY ( `id` ) ) ENGINE = InnoDB DEFAULT CHARSET =utf8; 然后愉快的新增用户:INSERT INTO test_user(name) VALUES("我是😁"),接着愉快的反思人生: Incorrect string value : '\xF0\x9F\x98\x81' for column 'name' at row 1 我是谁?我来自哪里?我在干嘛?难道是我代码里面的字符集用错了?不对啊我所有地方都用的utf8啊…… # MySQL 的UTF8编码是什么? 首先来看官方文档: The character set named utf8 uses a maximum of three bytes per character and contains

bat脚本常用命令

Deadly 提交于 2021-02-17 04:11:20
意气风发啊 骑上我快乐的小摩托 良心公众号啊! 我上墙了 你开始了 嚯嚯嚯嚯嚯 哈哈哈哈哈 皮皮虾我们走 可乐在厨房 红牛在冰箱 6666666 看弹幕,点 关注 " 我相信这不是我一个人的经历:傍晚时分,你坐在屋檐下,看着天慢慢地黑下去,心里寂寞而凄凉,感到自己的生命被剥夺了。当时我是个年轻人,但我害怕这样生活下去,衰老下去。在我看来,这是比死亡更可怕的事。 ——《沉默的大多数》 " title: bat脚本常用命令 date: 2019-11-14 20:23:36 tags: windows script categories: windows script Author:闫玉良 bat 脚本?如果不是从事微软开发相关工作的人员,是不是感觉很耳熟但是又好像不熟悉?还等什么,一睹为快 bat 脚本是 windows 上所用的脚本,我们经常使用的 cmd 一些命令就可以使用。也许你会说为什么不使用 powershell 脚本?因为古老的一些服务器上面没有安装 powershell 你信不信?比如 windows server 2003。 很荣幸,我遇到了,没有什么办法,只能查阅相关资料迎难而上了!脚本其实很简单,下面做一个记录,供大家有需要时获取: 1.设置变量 设置变量使用 SET 关键字,语法如下: SET 变量名=变量值 1. 变量名与变量值一定要紧挨等于号!!!

Solr简述及倒排索引介绍

我是研究僧i 提交于 2021-02-16 07:41:40
一、Solr简述 1、Solr是什么? Solr是一个Java开发的基于Lucene的开源搜索平台,其搜索技术核心是使用倒排索引,即通过关键字映射到对应的文档(value--key),与一般搜索用到的key--value不同。 Solr内的资源存储是以文档Document为对象进行存储,文档的内容是由多个表示资源属性的Field构成的。Solr是将文档中的Field经过分词后作为索引,用二分法将关键字与排序号的索引进行匹配,进而查找到对应文档,提供高性能的搜索效率。每个文档都通过唯一的id字段来表示该文档。 2、为什么使用Solr? 由于传统电商多数使用传统搜索,即 传统搜索是从静态数据库中筛选出符合条件的结果,这种结果往往是不可变得、静态的。而通常电商系统中需要提供搜索功能,通过任意关键字搜索出匹配的结果。而 这些 任意 的数据不可能是根据数据库的字段查询的,所以需要利用全文搜索工具提前对数据进行分词,然后通过分词的结果,根据分词搜索到对应的文档,向用户反馈搜索结果。而Solr就能通过倒排索引功能,技术,结合IKanalyzer中文分词器实现这样的搜索功能。 3、Solr、elasticsearch与Lucene三者联系与区别 (1)三者介绍 Lucene是一套信息检索工具包,并不包含搜索引擎系统,它包含了索引结构、读写索引工具、相关性工具、排序等功能

Exceptionless 5.0.0 本地Docker快速部署介绍

旧时模样 提交于 2021-02-16 05:42:02
在之前我有专门写两篇文章介绍过 Exceptionless这款开源日志项目的使用和部署 ,但是当时是基于4.1.0版本(2017年的release),时隔两年多Exceptionless也推出了5.0.0版本。 一、关于Exceptionless 5.0.0   Exceptionless 是一个开源的实时的好用的日志收集框架,它将日志收集变得简单易用并且不需要了解太多的相关技术细节及配置。但是之前的版本将其Web和API绑定在了Windows平台通过IIS运行,对于已经步入云原生时代的我们显得有点格格不入。5.0.0的发布解决了这一痛点,其最大的变化就是基于ASP.NET Core重写并支持跨平台,也就是说当初我们设想的要是能够基于Docker部署在Linux服务器下就更好了的愿望已经实现了,在此真心 感谢Exceptionless项目的各位贡献者 。本文就Exceptionless 5.0.0版本介绍一下快速地部署开发环境和生产环境,相信对有兴趣的朋友会有一点帮助。   至此我也可以将我们之前的Exceptionless从Windows Server迁移到Linux上了! 二、快速本地部署步骤 2.1 安装Docker 18.09+   由于Exceptionless 5.0.0的一个前置要求是Docker版本(CE)在18.09及以上,因此我们需要安装一个18.09

docker搭建elk

房东的猫 提交于 2021-02-15 11:05:32
docker run -d -p 5601:5601 -p 9200:9200 -p 5044:5044 -v /opt/data/elk-data:/var/lib/elasticsearch --name elk sebp/elk 1.运行完后报错: max virtual memory areas vm.max_map_count [26214] is too low, increase to at least [262144] 这是因为elasticsearch用户拥有的内存权限太小,至少需要262144。 执行 sysctl -a|grep vm.max_map_count 显示: vm.max_map_count = 26214 使用命令修改: sysctl -w vm.max_map_count=262144 然后在 /etc/sysctl.conf文件最后添加一行 vm.max_map_count=262144。 使用docker ps 查看是否在运行,使用docker images找到本地镜像,使用 docker start [imageId] 运行已存在的镜像。(docker run 生成镜像) 2. 访问elk。(我的虚拟机ip是192.168.1.90) 2.1 5601端口查看Kibana: http://192.168.1.90:5601/ 2.2 es