软件架构阅读笔记16

小鱼儿 2021-11-17 17:34 271阅读 0赞

[京东到家订单中心 Elasticsearch 演进历程][Elasticsearch]

Elasticsearch：一款功能强大的分布式搜索引擎，支持近实时的存储、搜索数据。

背景：

无论是外部商家的订单生产，或是内部上下游系统的依赖，订单查询的调用量都非常大，造成了订单数据读多写少的情况。

只通过DB来支撑大量的查询是不可取的，同时对于一些复杂的查询，Mysql支持得不够友好，所以订单中心系统使用了Elasticsearch来承载订单查询的主要压力。

架构演进：

1、初始阶段

很多配置都是保持集群默认配置。整个集群部署在集团的弹性云上，ES集群的节点以及机器部署都比较混乱。同时按照集群维度来看，一个ES集群会有单点问题，显然对于订单中心业务来说也是不被允许的。

2、集群隔离阶段

偶尔会发生混布集群抢占系统大量资源，先是对订单中心ES所在的弹性云，迁出那些系统资源抢占很高的集群节点，ES集群状况稍有好转。但随着集群数据不断增加，弹性云配置已经不太能满足ES集群，且为了完全的物理隔离，最终干脆将订单中心ES集群部署到高配置的物理机上，ES集群性能又得到提升。

3、节点副本调优阶段

在集群运行的时候同一物理机上的节点仍会出现资源抢占的问题。所以在这种情况下，为了让ES单个节点能够使用最大程度的机器资源，采用每个ES节点部署在单独一台物理机上方式。

如果单个节点出现瓶颈，采用扩容副本的方式，由默认的一主一副变为一主二副，同时增加相应物理机。

4、主从集群调整阶段

为了因对异常情况，增加一个备用集群，当主集群发生异常时，可以实时的将查询流量降级到备用集群。

采用业务双写的方式来搭设主备集群。每次业务操作需要写入ES数据时，同步的写入主集群数据，然后异步的写入备集群数据。同时由于大部分ES查询的流量都来源于近几天的订单，且订单中心数据库数据已有一套归档机制，将指定天数之前已经关闭的订单转移到历史订单库。

所以归档机制中增加删除备集群文档的逻辑，让新搭建的备集群存储的订单数据与订单中心线上数据库中的数据量保持一致。同时使用ZK在查询服务中做了流量控制开关，保证查询流量能够实时的降级到备集群。

5、现今：实时互备双集群阶段

对两个集群做了重新的规划定义，承担的线上查询流量也做了重新的划分。

备集群存储的是线上近几天的热点数据，数据规模远小于主集群，大约是主集群文档数的十分之一左右。集群数据量小，在相同的集群部署规模下，备集群的性能要优于主集群。然而在线上真实场景中，线上大部分查询流量也来源于热点数据，所以用备集群来承载这些热点数据的查询，而备集群也慢慢演变成一个热数据集群。之前的主集群存储的是全量数据，用该集群来支撑剩余较小部分的查询流量，这部分查询主要是需要搜索全量订单的特殊场景查询以及订单中心系统内部查询等，而主集群也慢慢演变成一个冷数据集群。

同时备集群增加一键降级到主集群的功能，两个集群地位同等重要，但都可以各自降级到另一个集群。双写策略也优化为：假设有A B集群，正常同步方式写主（A集群）异步方式写备（B集群）。A集群发生异常时，同步写B集群（主），异步写A集群（备）。

转载于:https://www.cnblogs.com/luohaochi/p/11054428.html

[Elasticsearch]: https://mp.weixin.qq.com/s?__biz=MzU1MzE2NzIzMg==&mid=2247486889&idx=1&sn=06c331d1fecebbd12f4a7ee52a8d25d7&chksm=fbf7bd46cc803450ad3d00c935863021d98fb02bed26a9c51becd15e721842044aa1e5321f92&scene=21#wechat_redirect