ElasticSearch知识点

深藏阁楼爱情的钟 2023-07-21 06:05 17阅读 0赞

1、什么是全文检索和Lucene？

（1）全文检索，倒排索引  
（2）lucene，就是一个jar包，里面包含了封装好的各种建立倒排索引，以及进行搜索的代码，包括各种算法。我们就用java开发的时候，引入lucene jar，然后基于lucene的api进行去进行开发就可以了。用lucene，我们就可以去将已有的数据建立索引，lucene会在本地磁盘上面，给我们组织索引的数据结构。

2、什么是倒排索引？

倒排索引建立的是分词（Term）和文档（Document）之间的映射关系，在倒排索引中，数据是面向词（Term）而不是面向文档的，通过倒排索引，可以根据单词快速获取包含这个单词的文档列表。再通过正排索引获得文档的全部数据。

3、elasticsearch的核心概念

（1）Near Realtime（NRT）：近实时，两个意思，从写入数据到数据可以被搜索到有一个小延迟（大概1秒）；基于es执行搜索和分析可以达到秒级

（2）Cluster：集群，包含多个节点，每个节点属于哪个集群是通过一个配置（集群名称，默认是elasticsearch）来决定的，对于中小型应用来说，刚开始一个集群就一个节点很正常  
（3）Node：节点，集群中的一个节点，节点也有一个名称（默认是随机分配的），节点名称很重要（在执行运维管理操作的时候），默认节点会去加入一个名称为“elasticsearch”的集群，如果直接启动一堆节点，那么它们会自动组成一个elasticsearch集群，当然一个节点也可以组成一个elasticsearch集群

（4）Document&field：文档，es中的最小数据单元，一个document可以是一条客户数据，一条商品分类数据，一条订单数据，通常用JSON数据结构表示，每个index下的type中，都可以去存储多个document。一个document里面有多个field，每个field就是一个数据字段。

（5）Index：索引，包含一堆有相似结构的文档数据，比如可以有一个客户索引，商品分类索引，订单索引，索引有一个名称。一个index包含很多document，一个index就代表了一类类似的或者相同的document。比如说建立一个product index，商品索引，里面可能就存放了所有的商品数据，所有的商品document。  
（6）Type：类型，每个索引里都可以有一个或多个type，type是index中的一个逻辑数据分类，一个type下的document，都有相同的field，比如博客系统，有一个索引，可以定义用户数据type，博客数据type，评论数据type。

（7）shard：单台机器无法存储大量数据，es可以将一个索引中的数据切分为多个shard，分布在多台服务器上存储。有了shard就可以横向扩展，存储更多数据，让搜索和分析等操作分布到多台服务器上去执行，提升吞吐量和性能。每个shard都是一个lucene index。  
（8）replica：任何一个服务器随时可能故障或宕机，此时shard可能就会丢失，因此可以为每个shard创建多个replica副本。replica可以在shard故障时提供备用服务，保证数据不丢失，多个replica还可以提升搜索操作的吞吐量和性能。primary shard（建立索引时一次设置，不能修改，默认5个），replica shard（随时修改数量，默认1个），默认每个索引10个shard，5个primary shard，5个replica shard，最小的高可用配置，是2台服务器。

4、ElasticSearch集群架构特点

（1）Elasticsearch对复杂分布式机制的透明隐藏特性。复杂的分布式机制，比如分片、副本、负载均衡等等，全部隐藏起来了。  
（2）Elasticsearch的垂直扩容与水平扩容。一般采取水平扩容。  
（3）增减或减少节点时的数据rebalance，保持负载均衡。  
（4）master节点，默认情况下会自动选出一台节点作为master节点，不承载索引请求，管理集群元数据，比如索引的创建和删除，节点的增加和移除。  
（5）节点对等的分布式架构。节点对等，每个节点都能接收所有的请求，自动请求路由，响应收集。

5、shard&replica机制梳理

（1）index包含多个shard  
（2）每个shard都是一个最小工作单元，承载部分数据，lucene实例，完整的建立索引和处理请求的能力  
（3）增减节点时，shard会自动在nodes中负载均衡  
（4）primary shard和replica shard，每个document肯定只存在于某一个primary shard以及其对应的replica shard中，不可能存在于多个primary shard  
（5）replica shard是primary shard的副本，负责容错，以及承担读请求负载  
（6）primary shard的数量在创建索引的时候就固定了，replica shard的数量可以随时修改  
（7）primary shard的默认数量是5，replica默认是1，默认有10个shard，5个primary shard，5个replica shard  
（8）primary shard不能和自己的replica shard放在同一个节点上（否则节点宕机，primary shard和副本都丢失，起不到容错的作用），但是可以和其他primary shard的replica shard放在同一个节点上

6、搜索算法

（1）IDF：包含这个关键词的所有document的数量

（2）TF：这个关键词在每个document中出现的次数