ES集群（一）简介与集群搭建

桃扇骨 2022-12-20 02:10 106阅读 0赞

一、简介：

查看集群健康状况：URL+ /GET \_cat/health，如[http://xxx.xx.xxx.32:9200/\_cluster/health?pretty=true][http_xxx.xx.xxx.32_9200_cluster_health_pretty_true]

1、ES基本概念名词：

（1）Cluster：代表一个集群，集群中有多个节点，其中有一个为主节点，这个主节点是可以通过选举产生的，主从节点是对于集群内部来说的。es的一个概念就是去中心化，字面上理解就是无中心节点，这是对于集群外部来说的，因为从外部来看es集群，在逻辑上是个整体，你与任何一个节点的通信和与整个es集群通信是等价的。

（2）Shards：代表索引分片，es可以把一个完整的索引分成多个分片，这样的好处是可以把一个大的索引拆分成多个，分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定，并且索引创建后不能更改。

（3）replicas：代表索引副本，es可以设置多个索引的副本，副本的作用一是提高系统的容错性，当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率，es会自动对搜索请求进行负载均衡。

（4）Recovery：代表数据恢复或叫数据重新分布，es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配，挂掉的节点重新启动时也会进行数据恢复。

2、ES为什么要实现集群：在单台ES服务器节点上，随着业务量的发展索引文件慢慢增多，会影响到效率和内存存储问题等。ES集群，可以将单个索引的分片到多个不同分布式物理机器上存储，从而可以实现高可用、容错性等。ES集群中索引可能由多个分片构成，并且每个分片可以拥有多个副本。通过将一个单独的索引分为多个分片，我们可以处理不能在一个单一的服务器上面运行的大型索引，简单的说就是索引的大小过大，导致效率问题。不能运行的原因可能是内存也可能是存储。由于每个分片可以有多个副本，通过将副本分配到多个服务器，可以提高查询的负载能力。

3、es如何解决高并发：ES是一个分布式全文检索框架，隐藏了复杂的处理机制，内部使用 分片机制、集群发现、分片负载均衡请求路由。　Shards 分片:代表索引分片，es可以把一个完整的索引分成多个分片，这样的好处是可以把一个大的索引拆分成多个，分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定，并且索引创建后不能更改。Replicas分片:代表索引副本，es可以设置多个索引的副本，副本的作用一是提高系统的容错性，当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率，es会自动对搜索请求进行负载均衡。

4、ES集群核心原理分析：

（1）每个索引会被分成多个分片shards进行存储，默认创建索引是分配5个分片进行存储。每个分片都会分布式部署在多个不同的节点上进行部署，该分片成为primary shards。注意：索引的主分片primary shards定义好后，后面不能做修改。

（2）为了实现高可用数据的高可用，主分片可以有对应的备分片replics shards，replic shards分片承载了负责容错、以及请求的负载均衡。注意: 每一个主分片为了实现高可用，都会有自己对应的备分片，主分片对应的备分片不能存放同一台服务器上。主分片primary shards可以和其他replics shards存放在同一个node节点上。

（3）documnet routing（数据路由）：当客户端发起创建document的时候，es需要确定这个document放在该index哪个shard上。这个过程就是数据路由。

路由算法：shard = hash(routing) % number\_of\_primary\_shards，如果number\_of\_primary\_shards在查询的时候取余发生的变化，无法获取到该数据，所以索引的主分片数量定义   好后，不能被修改

![377d060f3914869c5c86910bb72224b8.png][]

![3318cf5ba36a1e14d9c0e9002f90da95.png][]

![3b2da7c6d80cf08affc2424fd10019da.png][]

![b5e1ad0df2546ee91b499cf91eb65ced.png][]

二、集群环境搭建：下面搭建

<table> 
 <tbody> 
  <tr> 
   <td style="vertical-align:top;"> <p>服务器名称</p> </td> 
   <td style="vertical-align:top;"> <p>IP地址</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>node-1</p> </td> 
   <td style="vertical-align:top;"> <p>xxx.xx.xxx.32</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>node-2</p> </td> 
   <td style="vertical-align:top;"> <p>xxx.xx.xxx.126</p> </td> 
  </tr> 
  <tr> 
   <td style="vertical-align:top;"> <p>node-3</p> </td> 
   <td style="vertical-align:top;"> <p>xxx.xx.xxx.151</p> </td> 
  </tr> 
 </tbody> 
</table>

1、服务器环境：先准备三台机器，按照[https://blog.csdn.net/w\_t\_y\_y/article/details/107730808][https_blog.csdn.net_w_t_y_y_article_details_107730808]的方式安装es：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70][]  ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 1][]        ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 2][]

2、配置文件修改：

cp /data/elasticsearch/config/elasticsearch.yml /data/elasticsearch/config/elasticsearch.yml.bak
    cat elasticsearch.yml
    cluster.name: wtyy-es
    #三个节点分别为node-1、node-2、node-3
    node.name: node-1
    path.data: /usr/local/tool/elasticsearch/elasticsearch-6.4.2/data
    path.logs: /usr/local/tool/elasticsearch/elasticsearch-6.4.2/logs
    bootstrap.memory_lock: true
    http.port: 9200
    network.host: 0.0.0.0
    discovery.zen.minimum_master_nodes: 2
    discovery.zen.ping.unicast.hosts: discovery.zen.ping.unicast.hosts: ["xxx.xx.xxx.32", "xxx.xx.xxx.151","xxx.xx.xxx.126"]

配置文件重点参数解析：

（1）cluster.name  
集群名字，三台集群的集群名字都必须一致

（2）node.name  
节点名字，三台ES节点字都必须不一样

（3）discovery.zen.minimum\_master\_nodes:2  
表示集群最少的master数，如果集群的最少master数据少于指定的数，将无法启动，官方推荐node master数设置为集群数/2+1，我这里三台ES服务器，配置最少需要两台master，整个集群才可正常运行，

（4）node.master该节点是否有资格选举为master，如果上面设了两个mater\_node 2，也就是最少两个master节点，则集群中必须有两台es服务器的配置为node.master: true的配置，配置了2个节点的话，如果主服务器宕机，整个集群会不可用，所以三台服务器，需要配置3个node.masdter为true,这样三个master，宕了一个主节点的话，他又会选举新的master，还有两个节点可以用，只要配了node master为true的ES服务器数正在运行的数量不少于master\_node的配置数，则整个集群继续可用，我这里则配置三台es node.master都为true，也就是三个master，master服务器主要管理集群状态，负责元数据处理，比如索引增加删除分片分配等，数据存储和查询都不会走主节点，压力较小，jvm内存可分配较低一点

（5）node.data  
存储索引数据，三台都设为true即可

（6）bootstrap.memory\_lock: true  
锁住物理内存，不使用swap内存，有swap内存的可以开启此项

（7）discovery.zen.ping\_timeout: 3000s  
自动发现拼其他节点超时时间

（8）discovery.zen.ping.unicast.hosts: \["172.16.0.8:9300","172.16.0.6:9300","172.16.0.22:9300"\]  
设置集群的初始节点列表，集群互通端口为9300

重启下es即可。以下是常见报错解决方法：

（1）memory locking requested for elasticsearch process but memory is not locked：

修改文件/etc/security/limits.conf，添加以下内容：

* hard memlock unlimited
    * soft memlock unlimited

如我的：

# End of file
    *        soft   nproc  819200
    *        hard   nproc  819200
    *        soft   nofile  819200
    *        hard   nofile  819200
    *        soft   nproc  819200
    *        hard   nproc  819200
    *        soft   nofile  819200
    *        hard   nofile  819200
    * hard memlock unlimited
    * soft memlock unlimited

修改后保存，重新登录服务器启动es即可。

3、搭建好后，浏览器访问：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 3][]  ![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 4][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 5][]

[http_xxx.xx.xxx.32_9200_cluster_health_pretty_true]: http://172.31.236.151:9200/_cluster/health?pretty=true
[377d060f3914869c5c86910bb72224b8.png]: /images/20221120/b60c776bc343482cb927a17b6d363947.png
[3318cf5ba36a1e14d9c0e9002f90da95.png]: https://img-blog.csdnimg.cn/img_convert/3318cf5ba36a1e14d9c0e9002f90da95.png
[3b2da7c6d80cf08affc2424fd10019da.png]: https://img-blog.csdnimg.cn/img_convert/3b2da7c6d80cf08affc2424fd10019da.png
[b5e1ad0df2546ee91b499cf91eb65ced.png]: https://img-blog.csdnimg.cn/img_convert/b5e1ad0df2546ee91b499cf91eb65ced.png
[https_blog.csdn.net_w_t_y_y_article_details_107730808]: https://blog.csdn.net/w_t_y_y/article/details/107730808
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20201110145155397.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20201110145215225.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20201110145256369.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/2020111017355878.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20201110174118120.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20201110174624530.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfdF95X3k=,size_16,color_FFFFFF,t_70