亿级 Elasticsearch 性能优化

前言

最近一年使用 Elasticsearch 完成亿级别日志搜索平台「ELK」,亿级别的分布式跟踪系统。在设计这些系统的过程中,底层都是采用 Elasticsearch 来做数据的存储,并且数据量都超过亿级别,甚至达到百大数据技术与应用亿级别。

所以趁着有空,就花点时间整理一下具体怎么做 Elasticsearch 性能优化,希望能对 Elasticsearch 感兴趣的同学有所帮助。

背景

Elasticsearch 是一个基于 Lucene 的搜索服务器。它提供了一个分布linux重启命令式多用户数据库能力的全文搜索引擎,基于 RESTful web 接口。Elasticsearch 是用 Java 开发的,并作为 Apache 许可条款下的开分布式放源码java语言发布,是当前流行的企业级搜索引mysql擎。设计用于云计算中,能够达到实时搜索,稳定,可大数据修仙靠,快速,安装使用方便。

作为一个开箱即用的产品,在生产环境上线之后,我们其实不一定能确保其的性能和稳定性。如何根据实际情况提高服务的性能,其实有很多技巧。

下面我就从三个方面分别来讲解下优化服务的性能:

  1. 索引效率优化
  2. 查询效率优化
  3. JVM 配置linux系统优化

索引效率优化

索引优化主要是在 Elasticsearch 插入层面优化,如果瓶颈不在这块,而大数据查询是在产生数据部分,比如 DB 或者 Hadoop 上,那么java语言优化方向linux系统就需要改变下。同时,Elasticsearch 本身索引速度其实还是蛮快的,具体数据,我们可以参考官方的 benchmark 数据。

批量提交

当有大量数据提交的时候,建议采用批量提交。

比如在做 ELK 过程中 ,Logstash in数据库系统的核心是dexer 提交数据到 Eljava培训asticsearch 中 ,batch size 就可以作为一个优化功能点。但是优化 size 大小需要根据文档大小和服务器性能而定。

像 Logstash 中提交文档大小超过 20MB ,Log数据库stash 会请一个批量请求切分为多个批量请求。

如果在提交过程中,遇到 EsRejelinux是什操作系统ctedExecutionException 异常的话,则说明linux集群的索引性能已经达到极限了。这种情况,要么提高服务器集群的资源,要么根据业务规则,减少数据收集速度,比如只收集 Warn、Error 级别以上的日志。

优化硬件

优化硬件设备一直是最快速有效的手段。

  1. 在经济压力能承受的范围下, 尽量使用固态硬盘 SSD。SSD 相对于机器硬盘,无论随机写还是顺序写,都较大的提升。
  2. 磁盘备份采用java怎么读 RAID0。因为 Elasticsearch 在自身层面通过副本,已经提供linux了备份的功能,所以不需要利用磁盘的备份功能,同时如果使用磁盘备份功能的话,对写入分布式光伏发电速度有较大的影响。

增加 Refresh 时间间隔

为了提高索引性能,Elasticsearch 在写入数据时候,采用延迟写入的策略,即数据先写到内存中,当超过默认 1 秒 (index.refresh_interval)会进行一次写入操作,就是将内存中 segmemysql安装配置教程nt 数据分布式大陆刷新到操作系统中,此时我们才能将数据搜索出来,所以这就是为什么 Elasticsearch 提供的是近实时搜索功能,而不是实时搜索功能。

当然像我们的内部系统对数据延迟要求不高的话,我们可以通过延长 refresh 时间间隔,可以有效的减少 segmenlinux重启命令t 合并压力,提供索引速度。在做全链路跟踪的过程中,我们就将 index.分布式refresh_interval 设置为 30s,减少 refresh数据库系统工程师 次数。

同时,在进行全量索引时,可以将 ref数据库增删改查基本语句resh 次数临时关闭,即 index.refresh_分布式系统interval 设大数据行程码置为 -1,数据导入成功后再打开到正常模式javascript百炼成仙,比如 30s。

减少副本数量

Elasticsearch 默认副本数量为 3 个,虽然这样大数据是什么意思会提高集群的可用性,增加搜索的并发数,但是同时也会影响写入索引的效率。

在索引过程中,需要把更新的文档发到副本节点上,等副本节点生效后在进行返回结束。分布式大陆使用 Elasticsearch大数据技术与应用 做业务搜索的时候,建议副本数目还是设置为 3 个,但是像内部 ELK 日志系统、分布式跟踪系统中,完全可以将副本数目设置为 1 个。

查询效率优化

路由

当我们查询文档的时候,Elasticsearch 如何知道一个文档应该存放到哪个分片中呢?它其实是通过下面这个公式来计算出来

shard = hash(routing) % number_of_pri分布式架构mary_smysql增删改查语句hards

routing 默认值是文档的 id,也可以采用自定义值,比如用户 id。

不带 routing 查询

在查询分布式数据库的时候因为不知道要查询的数据具体java语言在哪个分片上,所以整个过程分为数据库系统概论第五版课后答案 2 个步骤

  • 分发:请求到达协调节点后,协调节点将查询请求分发到每个系统运维包括哪些内容分片上。
  • 聚合: 协调节点搜集到每分布式系统个分片上查询结果,在将查询的结果进行排序,之后给用户返回结果。

带 routing 查询

查询的时候分布式数据库,可以直接根据 routing 信息定位到某个分配查询,不需要查询所有的分配,经过协调节点排序。

向上面自定义的用户查数据库增删改查基本语句询,如果 routing 设置为 userid 的话,就可以直接查询出数据来,效率提linux系统安装升很多。

Filter VS Query

Ebay 曾经分享过他们使用 Elasticsearch 的大数据专业学什么经验中说到:

Use filter context in分布式锁stead of query context if possible.
尽可能使用过滤器上下文(Filtlinux操作系统基础知识er)替代查询上下文(Query

  • Query:此文档与此查询子句的匹配程度如何?
  • Filter:此文档和查询子句匹配吗?

Elasticsearc分布式大陆h 针对mysql Filter 查询只需要回答「是」或者「否」,不需要像 Query 查询一下计算linux相关系统运维工资一般多少性分数,同时 Filter 结果可以缓存。

大翻页

在使用 Elasticsearch 过程中,应尽量避免大翻页的出现。

正常翻页查询都是从 From 开始 Size 条数据,这样就需要在每个分分布式存储片中查询打分排名在前面的 From + Size 条大数据数据。协同节点收集每个分配的前 From + Size 条数据。协同节点一共会受到 Nmysql安装 * ( From + Size )条数据,然后进行排序,再将其中 From 到 From + Size 条数据返回出去。

如果 From 或者 Size 很大的话,导致参加排序的数量会同步扩大很多,最终会导致 CPU 资源消耗增大。

可以通过使用 Elasticsearch scroll 和 scroll-javaeescan 高效滚动的方式来解决这样的问题。具体写法,可以参考 Elasticsearch: 权威指南 - scroll 查询

J分布式VM 设置

32G 现象

Elasticsearch 默认安装后设置的堆内存是 1 GB。 对于任何一个业务部署来说, 这个设置都太小了。

比如机器有 64G 内存,那么我们是不是设置的越大越好呢?

其实不是的。

主要 Elasticsearch 底层使用 Lucene。Lucene 被设mysql增删改查语句计为可以利用操作系统底层机制来缓存内存数据结构。 Lucene 的段是分别存储到单个文系统运维包括哪些内容件中的。因为段是不可变的,这些文件也都不会变化,这是对缓存友好的,同时操作系统也会把大数据修仙这些段文件缓存起来,以便更快的访问。

如果你把所有的内存都分配给linux常用命令 Elasticsearch 的堆内存,那将不会有剩余的内存交给 Lucene。 这将严重地影mysql密码忘记了怎么办响全文检索的性能。

标准的建议是把 50% 的可用内存作为 Elasticsearch 的堆内存,保留剩下的 50%。当然它也不会被浪费,Lucene 会很乐意利用起余下的内存。

同时了解mysql面试题过 ES 的同学都听过过「不要超过 32G」的说法吧。java面试题

其实主要原因是 :JVM 在内存小于 32 GB 的时候会采用一linux个内存对象指针压大数据技术缩技术。

在 Java 中,所有的对象都分配在堆上,并通过一个指针进行引用。 普通对象指针(OOP)指向这些对象,通常为 CPU 字长 的大小:32 位或 64 位,取决于你的处理器。指针引用的就是这个 OOP 值的字节位置。

对于linux 32 位的系统,意味着堆内存大小最大为 4 GB。对于 64 位的系统, 可以使用更大的内存,但是 64 位的指针意linux味着更分布式系统大的浪费,因为你的指针本身大了。更糟糕的是, 更大的指针在主内存和各级缓存(例如 LLC,L1 等)之间移动数据的时候,会占用更多的带宽.

所以最终我们都会采用 31 G 设置

-Xms 31g
-Xmx 31g

假设你有个机器有 128 GB 的内存,你可以创建两个节点,每个节点内存分配不超过 32 GB。 也就是说不超过 64 GB 内存给 ES 的堆内存,剩下的超过 64linux GB 的内存给 Lucene

参考

  • Elastics大数据查询earch: 权威指南 -堆内存:大小和交换
  • 关于Elasticsearch性能优化的几点问题