ElasticSearch重要概念及简单用法

朱雀 2022-03-07 10:59 180阅读 0赞

> 接着上一篇ElasticSearch搭建的环境继续学习，从概念开始，本篇文章将介绍ElasticSearch中的一些重要概念及部分原理性概念，以下内容中简称为ES。

## 一、ES部分名词解释 ##

1.NRT：英文全称为Near RrealTime。中文意思为近实时，从写入数据到可以被搜索到之间有一个小于1s的延迟，使用ES进行搜索和数据分析可以达到秒级的速度。

注：由于ES写入数据到可以被索引到之间有延迟，所以对于业务中包含有保存幂等性需求时，需要注意；
        在写完之后手动执行刷新操作，然后再查询，否则会可能出现数据写重的情况。

2.cluster：表示由多个节点组成的ES集群（常见集群种类：HA，HB，HP，具体可自行查阅资料）。集群有一个名称，默认是elasticsearch，可以在配置文件中通过cluster.name字段手动指定，集群最小节点数可以为1个。

3.node：集群中的节点。节点也有自己的名称，默认是随机分配的，默认情况下，节点启动之后，会自动去寻找名称为cluster.name字段所指定的集群。如果在默认不修改cluster.name的情况下，启动多个节点之后，它们会自动组成一个ES集群。

4.document：文档。它是ES中的最小数据单元，通常使用JSON数据结构表示，每个index(索引)的type(类型)中，都可以存储多个Document。

5.field：表示字段，具体指的是Document中的某一个数据字段。比如学生信息文档中的学号字段。

6.index：索引。是多个有相似结构的文档数据的集合，类似于MySQL数据库中的数据库概念。

7.type：类型。表示某个索引下面的某种相同数据结构的结合。在较低版本的ES中，一个索引中可以有多个type，高版本中一个索引下只能有一个类型，官方建议每个索引下最好只有一个type。如果一个index下有多个type，在不同的搜索场景下可能会相互有影响，比如：一个索引下面有一个用于统计分析的type和一个用于搜索的type，如果统计请求比较慢，有可能会阻塞到查询请求。

8.shard：每个index会被拆分为多个shard，每个shard就会存放这个index的一部分数据，这此shard会散落在多台服务器上。有了shard就可以进行横向扩展，存储更多数据，让搜索和分析等操作分布到多台服务器上去执行，提升吞吐量和性能。shard又分为replica shard和primary shard，每个shard都是一个lucene index.

9.replica：每个服务器随时可能故障或宕机，此时shard就可以会丢失，因此可以为每一个shard创建多个replica副本。replica可以在shard故障时提供备用服务。保证数据不丢失或者丢失很少，多个replica还可以提升搜索操作的吞吐量和性能。

注意：
    primary shard：建立索引时一次设置，不能修改，默认5个；
    replica shard：可随时修改，默认1个），默认每个索引10个shard，5个primary shard, 5个replica shard,最小的高可用配置，是2台服务器。

## 二、ES的文档数据格式的优点 ##

1.可以提供复杂的面向对象的数据结构；  
2.如果不适用ES，使用传统的关系型数据库，复杂的对象只能拍平，放到多个关联表中，查询的时候需要查询多个表，而且还得重新组合成复杂对象，特别麻烦；  
3.基于ES面向文档的特性，而且提供了倒排索引，所以可以胜任复杂的查询和检索需求；  
4.使用传统，流行的文档对象来存储，很容易处理；

## 三、ES集群简单管理 ##

1.集群健康状态  
使用\_cat相关api查看，如下：

[root@es-master ~]# curl http://localhost:9200/_cat/health?pretty
    #返回结果
    1549092107 02:21:47 elasticsearch green 3 3 134 67 0 0 0 0 - 100.0%

可以看出，如果集群中的所有节点都正常启动，整个集群的状态为green；

2.集群的三种状态

（1）红(red)：不是所有的primary shard都是active状态的，部分索引有数据丢失了；
    （2）黄(yellow)：每个索引的primary shard都是active状态的，但是部分replica shard不是active状态，处于不可用的状态，此时可以继续使用；
    （3）绿(green)：每个索引的primary shard和replica shard都是active状态的；

集群启动时状态变化过程：

集群启动的时候，首先会有某些节点先启动，这些节点会被作为主节点，在所有的主节点未完全启动之前，集群此时处于red状态；
    当主节点全部启动之后，集群状态会变为yellow状态；
    所有的replica节点都启动完成之后，集群中的所有节点都已经齐全，此时集群变为green状态；

3.\_cat中的重要api

*  查看集群中的节点数

[root@es-master ~]# curl http://localhost:9200/_cat/nodes?pretty
    192.168.199.12 29 95 12 0.00 0.08 0.06 mdi * es-node2
    192.168.199.11 41 88 25 0.64 0.75 0.57 mdi - es-node1
    192.168.199.11 20 88 25 0.64 0.75 0.57 mdi - es-node3

表示集群中有三个节点，es-node1,es-node2,es-node3；

*  查看集群中的分片数

[root@es-master ~]# curl http://localhost:9200/_cat/shards?pretty
    student_index                   3 p STARTED     1   4.3kb 192.168.199.11 es-node1
    student_index                   3 r STARTED     1   4.3kb 192.168.199.11 es-node3
    student_index                   2 p STARTED     2   8.5kb 192.168.199.12 es-node2
    student_index                   2 r STARTED     2   8.5kb 192.168.199.11 es-node3
    student_index                   1 r STARTED     1   4.4kb 192.168.199.11 es-node1
    student_index                   1 p STARTED     1   4.4kb 192.168.199.12 es-node2
    student_index                   4 p STARTED     1   4.4kb 192.168.199.11 es-node1
    student_index                   4 r STARTED     1   4.4kb 192.168.199.11 es-node3
    student_index                   0 p STARTED     0    261b 192.168.199.12 es-node2
    student_index                   0 r STARTED     0    261b 192.168.199.11 es-node3

表示student\_index索引默认有10个分片，5个primary和5个replica；

*  查看集群中的索引列表

[root@es-master ~]# curl http://localhost:9200/_cat/indices?v
    health status index                           uuid                   pri rep docs.count docs.deleted store.size pri.store.size
    green  open   .monitoring-es-6-2019.01.27     kXMATwLHShGoGrAhOVPZqg   1   1      39439          432     48.3mb         24.1mb
    green  open   .monitoring-kibana-6-2019.01.27 PpgWm9PSRXKU385_pQis2g   1   1       1512            0        1mb        531.7kb
    green  open   .elastichq                      19vJX4__TcunPjMCfybmdA   5   1          1            0       14kb            7kb
    green  open   student_index                   8VHSS7wyQIadWBcNWJsGPQ   5   1          5            0     43.9kb         21.9kb
    green  open   student                         VXHrKYNcSRKELb7WSzToCw   5   1          2            0     23.8kb         11.9kb

默认展示的是系统索引和自己创建的索引，参数v表示查看详细信息；

*  \_cat还有其他api，但是不是很常用，如果需要，可以通过如下命令查看即可

[root@es-master ~]# curl http://localhost:9200/_cat
    =^.^=
    /_cat/allocation
    /_cat/shards
    /_cat/nodes
    /_cat/tasks
    ...

## 四、ES简单操作 ##

此处以电商系统商品搜索为例，使用kibana图形化操作界面，介绍ES的简单操作。  
1.创建  
用法：

PUT /index_name/type_name/id
    {}

例如：创建一个索引名称为shop\_index，类型为productInfo，id为1的索引

PUT /shop_index/productInfo/1
    {
        "name": "HuaWei Mate8",
        "desc": "Cheap and easy to use",
        "price": 2500,
        "producer": "HuaWei Producer",
        "tags": [
          "Cheap",
          "Fast"
        ]
    }

2.查询  
用法：

GET /index_name/type_name/id

例如：查询id为1的商品信息

GET /shop_index/productInfo/1
    {
      "_index": "shop_index",
      "_type": "productInfo",
      "_id": "1",
      "_version": 1,
      "found": true,
      "_source": {
        "name": "HuaWei Mate8",
        "desc": "Cheap and easy to use",
        "price": 2500,
        "producer": "HuaWei Producer",
        "tags": [
          "Cheap",
          "Fast"
        ]
      }
    }

3.修改

*  方法一：替换，通过ID替换，如果文档存在，则直接覆盖

用法：

PUT /index_name/type_name/id
    {}

例如：将商品价格修改为2400

PUT /shop_index/productInfo/1
    {
        "name": "HuaWei Mate8",
        "desc": "Cheap and easy to use",
        "price": 2400,
        "producer": "HuaWei Producer",
        "tags": [
          "Cheap",
          "Fast"
        ]
    }

注意：替换某个文档时，需要带着文档中的所有字段，否则未带着的字段会丢失，切记！！！

*  方法二：通过ID更新部分字段

用法：

POST /index_name/type_name/id/_update
    {}

例如：将上述商品的价格改为2200

POST /shop_index/productInfo/1/_update
    {
      "doc": {
        "price": 2200
      }
    }

4.删除  
用法：

DELETE /index_index/type_index/id

例如：删除id为1的商品记录：

DELETE /shop_index/productInfo/1

本篇文章简单介绍了ES的一些重要概念及基本用法，为后续内容做铺垫，下篇文章将继续ES的多种搜索方式！欢迎评论转发！