如何进行 Elasticsearch 性能调整
Elasticsearch 是一个分布式开源搜索和分析引擎,被广泛应用于各个领域。随着数据规模的增长以及业务复杂度的提高,不可避免地会遇到性能瓶颈。本文将介绍 Elasticsearch 的性能调整技巧,帮助您优化 Elasticsearch 性能。
一、 硬件资源
Elasticsearch 是一个 I/O 密集型的应用,硬件资源对性能影响很大。以下是建议的硬件配置:
- 磁盘 :采用 SSD 高速磁盘,同时为了保证磁盘的性能,建议设置 RAID 0, RAID5 或 RAID6。
- CPU :利用多核心 CPU,至少四核心以上,同时至少 16GB 的 RAM;
- 网络 :使用千兆级别以上网络带宽。
二、 配置优化
- 内存设置
Elasticsearch 是运行在 JVM 上的,需要对 JVM 进行内存设置。可以通过以下方式设置 JVM 内存参数:
- Elasticsearch 的安装目录中 config 下, elasticsearch.yml或 jvm.options 中设置:-Xms4g -Xmx4g
- 若要加大JVM内存建议不要超过64G, -Xms 小于等于 Xmx ,避免频繁 GC。
- 为Node.js的检索相关操作传递heapdump参数。heapdump:了解更多信息,请参阅 https://nodejs.org/api/resource_limits.html#resource_limits_a_note_on_spawn_args
- 索引设置
- 主要是在配置 index.number_of_shards 和 index.number_of_replicas 时需要考虑。这是关于段分片(Shard)的操作。索引中分片的定义越合理,Elasticsearch 的查询效率越高。对于大部分应用程序6个分片,不推荐再小于5个分片,另外服务器上的RAM大小可能影响分片数量的设计。
index.number_of_shards: 6 index.number_of_replicas: 1 index.refresh_interval: 30s
- 磁盘设置
由于 Elasticsearch 是基于磁盘存储和访问的,所以需要对磁盘文件系统进行优化,提高 Elasticsearch 的性能。同时,建议将 Elasticsearch 和磁盘分开放置,可以采用磁盘阵列方式来提高性能,同时也可以使用动态盘符提高灵活性。
设置优化
bootstrap.memory_lock: true indices.memory.index_buffer_size: 10% indices.fielddata.cache.size: 10% indices.recovery.max_bytes_per_sec: 50mb indices.queries.cache.size: 20%
三、 索引优化
- 索引设计
合理的索引设计,对提高 Elasticsearch 查询效率非常有帮助。应该针对查询的字段选择使用合理的数据类型,在索引建设时尽量使用缩小数据类型,例如 String 类型如非必要,应使用 Keyword 类型,通常要优于 Text 类型。同时,使用别名技术,从而减少查询时间。
- 分片
数据分片也是索引优化的重要部分。建议分片数不要太低或太高,数值建议在1-5之间,而分片总数和物理节点数密切相关。如果数据量很大,建议采用水平分片的策略,将一个大索引分成多个完全相同的小索引存储在不同节点上,这样可以保证节点的负载均衡和集群高可用。
- 存储优化
为了提高 Elasticsearch 的性能,在存储时应该针对数据量大小、数据查询频率来对数据进行归档压缩,从而避免数据过大而导致查询性能下降。
四、 其他技巧
- 聚合查询优化
由于聚合查询的计算复杂度高,因此其查询性能也相对较低。因此,在查询时应该尽量减少聚合查询的复杂度,优化聚合组合查询的,同时,选择合适的计算节点也可以提高聚合查询的性能。
- 过滤查询优化
过滤查询的处理方式有些相对复杂,需要一定的优化操作。在查询时应该做到尽量少、少但精确的查询过滤,将过滤查询置于缓存处理中,从而优化过滤查询效率。
五、 总结
以上是 Elasticsearch 性能调整的一些技巧。索引分片、内存配置、存储优化、查询过滤都是优化 Elasticsearch 性能的关键。合理地进行配置和优化,可以帮助您快速提高 Elasticsearch 的检索性能。
示例代码
elasticsearch.yml: bootstrap.memory_lock: true indices.memory.index_buffer_size: 10% indices.fielddata.cache.size: 10% indices.recovery.max_bytes_per_sec: 50mb indices.queries.cache.size: 20%
jvm.options: -Xms4g -Xmx4g
index.number_of_shards: 6 index.number_of_replicas: 1 index.refresh_interval: 30s
function heapDump(location) {
process.stderr.write(Writing heap snapshot to ${location}\n
);
process.kill(process.pid, 'SIGUSR1'); }
heapDump(knex.config.client.genericPool.heapdumpLocation);
process.setMaxListeners(0);
app.set('views', path.join(__dirname, 'views')); app.set('view engine', 'ejs');
app.use(bodyParser.json({ limit: '50mb' })); app.use(bodyParser.urlencoded({ limit: '50mb', extended: true })); app.use(expressValidator()); app.use(flash());
启动 Elasticsearch:
In Windows Powershell:
PS C:> .\elasticsearch-X.X.X/bin/elasticsearch.ps1
In Linux:
$ ./elasticsearch-X.X.X/bin/elasticsearch
查询索引:
GET my_index/_search?q=nutrition:low-fat&size=5&sort=price:asc
查询后自定义设置:
PUT _settings { "index": { "store": { "type": "niofs" }, "number_of_replicas": 2 } }
来源:JavaScript中文网 ,转载请注明来源 本文地址:https://www.javascriptcn.com/post/65af7e50add4f0e0ff8ef579