如何进行 Elasticsearch 性能调整

如何进行 Elasticsearch 性能调整

Elasticsearch 是一个分布式开源搜索和分析引擎,被广泛应用于各个领域。随着数据规模的增长以及业务复杂度的提高,不可避免地会遇到性能瓶颈。本文将介绍 Elasticsearch 的性能调整技巧,帮助您优化 Elasticsearch 性能。

一、 硬件资源

Elasticsearch 是一个 I/O 密集型的应用,硬件资源对性能影响很大。以下是建议的硬件配置:

  • 磁盘 :采用 SSD 高速磁盘,同时为了保证磁盘的性能,建议设置 RAID 0, RAID5 或 RAID6。
  • CPU :利用多核心 CPU,至少四核心以上,同时至少 16GB 的 RAM;
  • 网络 :使用千兆级别以上网络带宽。

二、 配置优化

  1. 内存设置

Elasticsearch 是运行在 JVM 上的,需要对 JVM 进行内存设置。可以通过以下方式设置 JVM 内存参数:

  1. 索引设置
  • 主要是在配置 index.number_of_shards 和 index.number_of_replicas 时需要考虑。这是关于段分片(Shard)的操作。索引中分片的定义越合理,Elasticsearch 的查询效率越高。对于大部分应用程序6个分片,不推荐再小于5个分片,另外服务器上的RAM大小可能影响分片数量的设计。

index.number_of_shards: 6 index.number_of_replicas: 1 index.refresh_interval: 30s

  1. 磁盘设置

由于 Elasticsearch 是基于磁盘存储和访问的,所以需要对磁盘文件系统进行优化,提高 Elasticsearch 的性能。同时,建议将 Elasticsearch 和磁盘分开放置,可以采用磁盘阵列方式来提高性能,同时也可以使用动态盘符提高灵活性。

设置优化

bootstrap.memory_lock: true indices.memory.index_buffer_size: 10% indices.fielddata.cache.size: 10% indices.recovery.max_bytes_per_sec: 50mb indices.queries.cache.size: 20%

三、 索引优化

  1. 索引设计

合理的索引设计,对提高 Elasticsearch 查询效率非常有帮助。应该针对查询的字段选择使用合理的数据类型,在索引建设时尽量使用缩小数据类型,例如 String 类型如非必要,应使用 Keyword 类型,通常要优于 Text 类型。同时,使用别名技术,从而减少查询时间。

  1. 分片

数据分片也是索引优化的重要部分。建议分片数不要太低或太高,数值建议在1-5之间,而分片总数和物理节点数密切相关。如果数据量很大,建议采用水平分片的策略,将一个大索引分成多个完全相同的小索引存储在不同节点上,这样可以保证节点的负载均衡和集群高可用。

  1. 存储优化

为了提高 Elasticsearch 的性能,在存储时应该针对数据量大小、数据查询频率来对数据进行归档压缩,从而避免数据过大而导致查询性能下降。

四、 其他技巧

  1. 聚合查询优化

由于聚合查询的计算复杂度高,因此其查询性能也相对较低。因此,在查询时应该尽量减少聚合查询的复杂度,优化聚合组合查询的,同时,选择合适的计算节点也可以提高聚合查询的性能。

  1. 过滤查询优化

过滤查询的处理方式有些相对复杂,需要一定的优化操作。在查询时应该做到尽量少、少但精确的查询过滤,将过滤查询置于缓存处理中,从而优化过滤查询效率。

五、 总结

以上是 Elasticsearch 性能调整的一些技巧。索引分片、内存配置、存储优化、查询过滤都是优化 Elasticsearch 性能的关键。合理地进行配置和优化,可以帮助您快速提高 Elasticsearch 的检索性能。

示例代码

elasticsearch.yml: bootstrap.memory_lock: true indices.memory.index_buffer_size: 10% indices.fielddata.cache.size: 10% indices.recovery.max_bytes_per_sec: 50mb indices.queries.cache.size: 20%

jvm.options: -Xms4g -Xmx4g

index.number_of_shards: 6 index.number_of_replicas: 1 index.refresh_interval: 30s

function heapDump(location) { process.stderr.write(Writing heap snapshot to ${location}\n);

process.kill(process.pid, 'SIGUSR1'); }

heapDump(knex.config.client.genericPool.heapdumpLocation);

process.setMaxListeners(0);

app.set('views', path.join(__dirname, 'views')); app.set('view engine', 'ejs');

app.use(bodyParser.json({ limit: '50mb' })); app.use(bodyParser.urlencoded({ limit: '50mb', extended: true })); app.use(expressValidator()); app.use(flash());

启动 Elasticsearch:

In Windows Powershell:

PS C:> .\elasticsearch-X.X.X/bin/elasticsearch.ps1

In Linux:

$ ./elasticsearch-X.X.X/bin/elasticsearch

查询索引:

GET my_index/_search?q=nutrition:low-fat&size=5&sort=price:asc

查询后自定义设置:

PUT _settings { "index": { "store": { "type": "niofs" }, "number_of_replicas": 2 } }

来源:JavaScript中文网 ,转载请联系管理员! 本文地址:https://www.javascriptcn.com/post/65af7e50add4f0e0ff8ef579


猜你喜欢

  • GraphQL:用 Connection 优化节点查询

    前言 GraphQL 是一种由 Facebook 开发的数据查询和操作语言,它提供了一种更高效、更灵活的方式来获取和操作数据。GraphQL 的一个重要特性就是可以精确地指定需要查询的数据,避免了传统...

    2 个月前
  • Server-sent Events 的浏览器支持情况及解决方法

    什么是 Server-sent Events? Server-sent Events(简称 SSE)是一种基于 HTTP 的服务器推送技术,它可以让服务器向客户端发送事件流,客户端通过监听这个事件流来...

    2 个月前
  • ECMAScript 2020(ES11)中的新特性:BigInt 转换

    在 ECMAScript 2020(ES11)中,新增了一种数据类型:BigInt。它是一种可以表示任意大整数的数据类型,可以用来解决 JavaScript 中整数运算的精度问题。

    2 个月前
  • CSS Reset 在 IE6、IE7 等老浏览器中的应用

    什么是 CSS Reset CSS Reset 是一种通过重置浏览器默认样式的方式,消除不同浏览器之间的差异,从而实现更加一致的样式效果的技术手段。在前端开发中,使用 CSS Reset 可以让我们更...

    2 个月前
  • ES6 中的类继承和原型链之间的关系解析

    在 ES6 中,引入了 class 关键字,使得 JavaScript 也具备了面向对象编程的能力。在类继承和原型链之间,有着密切的关系。本文将详细解析 ES6 中的类继承和原型链之间的关系,并提供一...

    2 个月前
  • 如何使用 Redux 处理 React 应用中的表单数据

    前言 在开发 React 应用时,表单数据的处理是非常常见的需求。然而,由于 React 的单向数据流和组件化特性,传统的表单处理方式可能会变得非常繁琐。而 Redux 作为一种状态管理工具,可以帮助...

    2 个月前
  • Redis 处理高并发的策略

    前言 随着互联网的发展,高并发已经成为了一个不可避免的问题。而 Redis 作为一款高性能的 NoSQL 数据库,也成为了处理高并发的重要工具之一。本文将会介绍 Redis 处理高并发的策略,并且会提...

    2 个月前
  • 响应式设计中的图片适配问题解决方案

    在响应式设计中,图片适配是一个比较棘手的问题。如果不加以处理,可能会导致图片在不同设备上显示不佳,影响用户体验。本文将介绍响应式设计中的图片适配问题,并提供解决方案。

    2 个月前
  • 解析 TypeScript 中 encapsulation(封装)的实现方式

    解析 TypeScript 中 encapsulation(封装)的实现方式 在 TypeScript 中,封装(encapsulation)是一种重要的面向对象编程的特性。

    2 个月前
  • PM2 崩溃处理:如何避免由于 PM2 进程奔溃导致应用崩溃?

    在前端开发中,我们经常使用 PM2 进行进程管理和部署。但是,当 PM2 进程崩溃时,应用也会跟着崩溃。如何避免这种情况的发生?本文将介绍 PM2 崩溃处理的方法和技巧,帮助您更好地管理和部署应用。

    2 个月前
  • 在 Node.js 中运行 HTTPS 服务器的方法

    Node.js 是一个非常流行的 JavaScript 运行时环境,它可以让我们通过 JavaScript 编写服务器端应用程序。在开发 Web 应用程序时,安全性是非常重要的。

    2 个月前
  • 详解 ECMAScript 2018 中的三个新操作符及其用法

    ECMAScript 2018 (简称 ES2018) 是 JavaScript 语言的最新标准,其中包含了许多新特性和语法糖。本文将详细介绍其中的三个新操作符及其用法,分别是:扩展运算符、剩余运算符...

    2 个月前
  • 解决 Enzyme 测试 React Native 组件时动画无法渲染的问题

    在开发 React Native 应用时,我们经常需要使用 Enzyme 来测试组件。然而,当我们测试涉及到动画的组件时,我们可能会遇到一些问题:动画无法渲染,导致测试失败。

    2 个月前
  • 使用 React Router 打造复杂而强大的 SPA 应用

    随着 Web 技术的不断发展,单页应用(Single Page Application,SPA)已经成为了现代 Web 应用的主流。SPA 通过异步加载数据和动态更新页面,提供了更快速、更流畅的用户体...

    2 个月前
  • AngularJS 中如何使用 ng-repeat 中的 filter 来过滤数据

    在 AngularJS 中,ng-repeat 指令是用于循环遍历数组或对象并生成 HTML 元素的常用指令。而 ng-repeat 指令中的 filter 属性则是用于过滤数据的功能。

    2 个月前
  • 如何在 Chai 中验证 Promise.all

    如何在 Chai 中验证 Promise.all 在前端开发中,Promise.all 是一个非常常用的功能,它可以让我们在多个异步操作完成后再执行一些操作,这个功能在实际开发中非常实用。

    2 个月前
  • Mongoose 实现数据批量更新的方式详解

    前言 在前端开发中,经常会涉及到对数据库中的数据进行批量更新的操作。而 Mongoose 是一款 Node.js 平台下的 MongoDB 对象模型工具,它提供了一种方便的方式来操作 MongoDB ...

    2 个月前
  • 在使用 lit-element 的时候,如何解决麻烦的 Shadow DOM 的变量传递问题

    前言 在使用 Web Components 的时候,我们通常会使用 Shadow DOM 来实现封装和样式隔离。然而,Shadow DOM 的封闭性也带来了一些挑战,其中之一就是变量传递问题。

    2 个月前
  • Tailwind CSS 如何实现动态换肤?

    随着互联网的发展,越来越多的网站和应用开始支持动态换肤功能。动态换肤不仅可以提升用户体验,还可以让用户在不同的环境下选择适合自己的主题,增加用户黏性和满意度。本文将介绍如何使用 Tailwind CS...

    2 个月前
  • 如何在 Less 中使用字符串操作函数?

    在前端开发中,样式表是不可或缺的一部分。而 Less 是一种动态样式语言,它是 CSS 的一种扩展。在 Less 中,我们可以使用字符串操作函数来处理字符串,这些函数可以帮助我们更加方便地操作字符串,...

    2 个月前