ElasticSearch基础分布式架构

阳光穿透心脏的1/2处 2021-11-11 07:01 334阅读 0赞

1、Elasticsearch对复杂分布式机制的透明隐藏特性

Elasticsearch是一套分布式的系统，分布式是为了应对大数据量

隐藏了复杂的分布式机制

分片机制（我们之前随随便便就将一些document插入到es集群中去了，我们有没有care过数据怎么进行分片的，数据到哪个shard中去）

cluster discovery（集群发现机制，我们之前在做那个集群status从yellow转green的实验里，直接启动了第二个es进程，那个进程作为一个node自动就发现了集群，并且加入了进去，还接受了部分数据，replica shard）

shard负载均衡（举例，假设现在有3个节点，总共有25个shard要分配到3个节点上去，es会自动进行均匀分配，以保持每个节点的均衡的读写负载请求）

shard副本，请求路由，集群扩容，shard重分配

2、Elasticsearch的垂直扩容与水平扩容

垂直扩容：采购更强大的服务器，成本非常高昂，而且会有瓶颈，假设世界上最强大的服务器容量就是10T，但是当你的总数据量达到5000T的时候，你要采购多少台最强大的服务器啊

水平扩容：业界经常采用的方案，采购越来越多的普通服务器，性能比较一般，但是很多普通服务器组织在一起，就能构成强大的计算和存储能力

普通服务器：1T，1万，100万

强大服务器：10T，50万，500万

扩容对应用程序的透明性

3、增减或减少节点时的数据rebalance

保持负载均衡

4、master节点

（1）创建或删除索引

（2）增加或删除节点

![image.png][]

5、节点平等的分布式架构

（1）节点对等，每个节点都能接收所有的请求

（2）自动请求路由

（3）响应收集

6.shard&replica机制再次梳理

（1）index包含多个shard

（2）每个shard都是一个最小工作单元，承载部分数据，lucene实例，完整的建立索引和处理请求的能力

（3）增减节点时，shard会自动在nodes中负载均衡

（4）primary shard和replica shard，每个document肯定只存在于某一个primary shard以及其对应的replica shard中，不可能存在于多个primary shard

（5）replica shard是primary shard的副本，负责容错，以及承担读请求负载

（6）primary shard的数量在创建索引的时候就固定了，replica shard的数量可以随时修改

（7）primary shard的默认数量是5，replica默认是1，默认有10个shard，5个primary shard，5个replica shard

（8）primary shard不能和自己的replica shard放在同一个节点上（否则节点宕机，primary shard和副本都丢失，起不到容错的作用），但是可以和其他primary shard的replica shard放在同一个节点上

7.图解单node环境下创建index是什么样子的

（1）单node环境下，创建一个index，有3个primary shard，3个replica shard

（2）集群status是yellow

（3）这个时候，只会将3个primary shard分配到仅有的一个node上去，另外3个replica shard是无法分配的

（4）集群可以正常工作，但是一旦出现节点宕机，数据全部丢失，而且集群不可用，无法承接任何请求

PUT /test_index
    
    {
    
      "settings" : {
    
         "number_of_shards" : 3,
    
         "number_of_replicas" : 1
    
      }
    
    }

8、图解Elasticsearch容错机制：master选举，replica容错，数据恢复

（1）9 shard，3 node

（2）master node宕机，自动master选举，red（不是所有的primary shard都是active）

（3）replica容错：新master将replica提升为primary shard，yellow(不是所有的replica shard都是active)

（4）重启宕机node，master copy replica到该node，使用原有的shard并同步宕机后的修改，green

![image.png][image.png 1]

[image.png]: /images/20211109/1044c9057b7f46dea1e7b8d94e0f8c07.png
[image.png 1]: /images/20211109/dff29df5bcec409984d447fa9901a0d6.png

ElasticSearch基础分布式架构

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关深入理解Elasticsearch的分布式架构

相关分布式搜索引擎Elasticsearch基础入门学习

相关分布式搜索引擎Elasticsearch的架构分析

相关 elasticsearch的分布式架构原理

相关 dubbo分布式服务架构—基础入门

相关 elasticsearch的基础分布式架构

相关 ElasticSearch基础分布式架构讲解

相关分布式架构基础知识-CAP定理

相关 ElasticSearch基础、分布式架构及读写流程

相关 ElasticSearch基础分布式架构