ElasticSearch高可用集群环境搭建和分片原理

爱被打了一巴掌 2022-01-28 11:41 370阅读 0赞

# [ElasticSearch高可用集群环境搭建和分片原理][ElasticSearch] #

1、ES是如何实现分布式高并发全文检索  
2、简单介绍ES分片Shards分片技术  
3、为什么ES主分片对应的备分片不在同一台节点存放  
4、索引的主分片定义好后为什么不能做修改  
5、ES如何实现高可用容错方案  
6、搭建Linux上环境三台ES高可用集群环境

# #

## ES是如何解决高并发 ##

ES是一个分布式全文检索框架，隐藏了复杂的处理机制，核心内容 分片机制、集群发现、分片负载均衡请求路由。

## ES基本概念名词 ##

### Cluster ###

代表一个集群，集群中有多个节点，其中有一个为主节点，这个主节点是可以通过选举产生的，主从节点是对于集群内部来说的。es的一个概念就是去中心化，字面上理解就是无中心节点，这是对于集群外部来说的，因为从外部来看es集群，在逻辑上是个整体，你与任何一个节点的通信和与整个es集群通信是等价的。

### Shards ###

代表索引分片，es可以把一个完整的索引分成多个分片，这样的好处是可以把一个大的索引拆分成多个，分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定，并且索引创建后不能更改。

### replicas ###

代表索引副本，es可以设置多个索引的副本，副本的作用一是提高系统的容错性，当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率，es会自动对搜索请求进行负载均衡。

### Recovery ###

代表数据恢复或叫数据重新分布，es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配，挂掉的节点重新启动时也会进行数据恢复。

## ES为什么要实现集群 ##

ES集群中索引可能由多个分片构成，并且每个分片可以拥有多个副本。通过将一个单独的索引分为多个分片，我们可以处理不能在一个单一的服务器上面运行的大型索引，简单的说就是索引的大小过大，导致效率问题。不能运行的原因可能是内存也可能是存储。由于每个分片可以有多个副本，通过将副本分配到多个服务器，可以提高查询的负载能力。

GET \_cat/health

ES集群核心原理分析:

数据存储。

1、每个索引会被分成多个分片shards进行存储，默认创建索引是分配5个分片进行存储。

每个分片都会分布式部署在多个不同的节点上进行部署，该分片成为primary shards。

**  ** **注意：索引的主分片primary shards定义好后，后面不能做修改。  **

** **

2、为了实现高可用数据的高可用，主分片可以有对应的备分片replics shards，replic shards分片承载了负责容错、以及请求的负载均衡。

** ****注意: 每一个主分片为了实现高可用，都会有自己对应的备分片，主分片对应的备分片不能存放同一台服务器上（单台ES没有备用分片的）。主分片primary shards可以和其他replics shards存放在同一个node节点上。**

**   **

**  在往主分片服务器存放数据时候，会对应实时同步到备用分片服务器：**

**  ![1179709-20190121122540763-1265478916.png][]**

但是查询时候，所有（主、备）都进行查询。

主的可以存放副的：

![1179709-20190121122812942-720068586.png][]

Node1 ：P1+P2+R3组成了完整 的数据！ 分布式存储

**EA核心存放的核心数据是索引!**

**如果ES实现了集群的话，会将单台服务器节点的索引文件使用分片技术，分布式存放在多个不同的物理机器上。 **

**分片就是将数据拆分成多台节点进行存放**

**在ES分片技术中，分为主（primary）分片、副(replicas)分片。这样做是为了容错性**

**![1179709-20190121121348668-1108667656.png][]**

5： 每个索引拆分5片存储

1：备份一份

** 在ES中每一个主分片都对应一个副分片**

三个节点 6/3 为 2  每个节点存放两个分片

![1179709-20190121180653134-1138533772.png][]

在创建索引时候，主分片数量定义好后是不能修改的

修改副的分片 number\_of\_replica 2  3个主分片6个备分片  一共9个

![1179709-20190121181530002-1251516328.png][]

官方建议 节点的平方数 ！！

![1179709-20190121182206818-1256527006.png][]

**数据路由 **

documnet routing（数据路由）

当客户端发起创建document的时候，es需要确定这个document放在该index哪个shard上。这个过程就是数据路由。  
  
路由算法：shard = hash(routing) % number\_of\_primary\_shards  
  
如果number\_of\_primary\_shards在查询的时候取余发生的变化，无法获取到该数据

画图演示  
注意：索引的主分片数量定义好后，不能被修改

计算的算法 取模时候 除数改变了 查询时候 怎么办？！ 所以 不能乱改啊~

![1179709-20190121185023551-70831082.png][]

## **集群环境的搭建** ##

如果连接P0查询不到的话  会自动转发到另一台去查询。

集群的搭建：核心思想无非就是 配置不同的节点id  配置形同集群名称

4台服务器实现集群的话,会配置三个不同的elasticsearch.yml

配置：

vi elasticsearch.yml  
cluster.name: myes \#\#\#保证三台服务器节点集群名称相同  
node.name: node-1 \#\#\#\# 每个节点名称不一样 其他两台为node-2 ,node-3  
network.host: 192.168.91.7 \#\#\#\# 实际服务器ip地址   实际项目外网ip 哦  
discovery.zen.ping.unicast.hosts: \["192.168.91.7", "192.168.91.8","192.168.91.9"\]

\#\#多个服务集群ip  
discovery.zen.minimum\_master\_nodes: 1

集群通信是走9300端口通信

注意如果你是虚拟机克隆data文件会导致数据不同步

报该错误解决办法  进入到data中 删除 node这个目录 重启就OK了

failed to send join request to master

因为克隆导致data文件也克隆呢，直接清除每台服务器data文件。

![1179709-20190121200815795-1219926268.png][]

启动配置好的三台节点：

随便访问一台主机： http://192.168.91.8:9200/\_cat/nodes?pretty

验证：

![1179709-20190121201431224-187627.png][]

带 \*  为master

如果某一台宕机了 可以自动选举~~ \*会转移哦

ES分布式做的特别好~

posted @ 2019-01-21 02:56 [toov5][] 阅读( ...) 评论( ...) [编辑][Link 1] 收藏

[ElasticSearch]: https://www.cnblogs.com/toov5/p/10296903.html
[1179709-20190121122540763-1265478916.png]: /images/20220128/65c6ff9550a140ab80fbc12137126ed1.png
[1179709-20190121122812942-720068586.png]: /images/20220128/bbf9082d408348ae9bbc2f0ef460997b.png
[1179709-20190121121348668-1108667656.png]: /images/20220128/91e85914933f4befa0d29b567e11e8df.png
[1179709-20190121180653134-1138533772.png]: /images/20220128/d43b8456d2ff4ce493cb23f73be8ddb0.png
[1179709-20190121181530002-1251516328.png]: /images/20220128/51c42ac9de0240a19aa26622a137b156.png
[1179709-20190121182206818-1256527006.png]: /images/20220128/6e599f6a51954ef2952ba4b4ceacfadd.png
[1179709-20190121185023551-70831082.png]: /images/20220128/73941be878754682baa7235a81d9aa4c.png
[1179709-20190121200815795-1219926268.png]: /images/20220128/b8b89d3d77284a8aa39a659cba915287.png
[1179709-20190121201431224-187627.png]: /images/20220128/83fbbc846d9b4cb2962a4c4f7d5fb031.png
[toov5]: https://www.cnblogs.com/toov5/
[Link 1]: https://i.cnblogs.com/EditPosts.aspx?postid=10296903