技术分享 | 为什么MGR一致性模式不推荐AFTER

港控/mmm° 2022-09-10 09:23 125阅读 0赞

本文首发于 GreatSQL社区 微信公众号。

*  1、引子
 *  2、AFTER 的写一致性
 *  3、AFTER 的读一致性
 *  4、AFTER 执行流程
 *  5、BEFORE 执行流程
 *  6、一些思考
 *  7、参考文档

## 1、引子 ##

某次测试过程中，发现在 AFTER 级别下，节点故障会导致集群无法进行事务提交，同时，当事务进入提交阶段后，其它节点无法开启只读事务。整个集群无法正常提供服务，直到故障节点被踢出集群。

以下首先复现上述故障场景的步骤：

1、初始化一个3节点的集群。集群信息如下：

2、在 AFTER 级别下创建表并插入一条数据

13000-conn1
        mysql> set session group_replication_consistency='AFTER';
        Query OK, 0 rows affected (0.00 sec)
    
        mysql> create table t1 (c1 int primary key, c2 int); 
        Query OK, 0 rows affected (0.12 sec)
    
        mysql> insert into t1 values (1,1); 
        Query OK, 1 row affected (0.03 sec)

3、强杀一个节点，由于设置的 `expel_timeout` 设置为1000秒，故障节点变成 `UNREACHABLE`状态

4、此时，再次插入一条数据，无法返回，语句处于等待提交阶段

13000-conn1
        mysql> insert into t1 values (2,2);
    
        13000-conn2
        mysql> select time, state, info from information_schema.processlist;
        +------+--------------------------------------------------------+--------------------------------------------------------------+
        | time | state                                                  | info                                                         |
        +------+--------------------------------------------------------+--------------------------------------------------------------+
        |    0 | executing                                              | select time, state, info from information_schema.processlist |
        |  193 | waiting for handler commit                             | Group replication applier module                             |
        |  228 | Waiting on empty queue                                 | NULL                                                         |
        |  193 | Slave has read all relay log; waiting for more updates | NULL                                                         |
        |   50 | waiting for handler commit                             | insert into t1 values (2,2)                                  |
        +------+--------------------------------------------------------+--------------------------------------------------------------+
        5 rows in set (0.01 sec)

5、再次登录另一个活着的节点，无法执行查询操作

13002-conn1
    mysql> set @@group_replication_consistency='eventual';
    Query OK, 0 rows affected (0.00 sec)
    
    mysql> select * from t1;
    
    13002-conn2
    mysql> select time, state, info from information_schema.processlist;
    +------+--------------------------------------+--------------------------------------------------------------+
    | time | state                                | info                                                         |
    +------+--------------------------------------+--------------------------------------------------------------+
    |    0 | executing                            | select time, state, info from information_schema.processlist |
    |  354 | waiting for handler commit           | Group replication applier module                             |
    |  403 | Waiting on empty queue               | NULL                                                         |
    |  225 | waiting for handler commit           | NULL                                                         |
    |   13 | Executing hook on transaction begin. | select * from t1                                             |
    +------+--------------------------------------+--------------------------------------------------------------+
    5 rows in set (0.01 sec)

## 2、AFTER 的写一致性 ##

上述故障的第一个问题是，在 MGR 集群中，当事务读写一致性级别设置为 AFTER 后，任何单点的故障都会导致集群不可用。在默认设置情况下，节点从故障到被踢出集群，一般需要5至10秒的时间，在这段时间内，整个数据库是无法进行写事务的提交的，当然，如上述测试一般，如果将expel\_timeout设置的更大，则会有更长的时间无法正常工作。这对线上业务来说，将是一次灾难。

查看MGR读写一致性的原始worklog，发现上述现象是符合设计预期的，并不是一个bug。该 worklog 的以下需求即解释了上述的问题。

FR-08: When group_replication_consistency=AFTER or BEFORE_AND_AFTER,
           if there are unreachable members but the group still has a
           reachable majority, the transaction will wait until that
           members are reachable or leave the group.

如此处理的一个好处是，可以满足部分业务对严格数据一致性的需求，但对一般的业务却是极度不友好的。因此，对于一般的业务，并不推荐使用 AFTER 机制。然而，由于非 AFTER 机制下，事务消息只是通过 paxos 协议在内存层面达成多数派，而并不要求数据落盘，因此，如果多数节点同时故障，是存在丢失数据风险的。

## 3、AFTER 的读一致性 ##

上述故障的第二个问题是，当节点1 处于事务commit阶段过程中，在节点2上，甚至都无法在 eventual 级别下开启一个只读事务。此时，在故障节点被踢出集群之前，节点2无法提供任何的读写服务。

还是从 worklog 中，解释了这个问题。

FR-06: When group_replication_consistency=AFTER or BEFORE_AND_AFTER,
           since the remote ONLINE members do acknowledge the
           transaction on prepare, the new transactions on those members
           shall be held until the preceding prepared are committed.

也就是说，如果事务在 remote 节点进入了 prepared 阶段，则必须等待该事务完成提交才能开启新的事务，不论 consistency 是何种级别。但是如此处理的一个弊端是，AFTER 级别下，不光会导致执行节点性能吞吐降低，其它节点作为只读节点性能也会降低。

在多主写部署中，性能的影响可能更大。另一个问题是，如果用户恶意开启 AFTER 级别执行一个大事务操作，会导致其它节点长时间无法开启新的事务。官方 worklog 中也提到这个问题。

SECURITY CONTEXT
    ================
    From a point of view of malicious attack to the group, since when
    group_replication_consistency=AFTER or BEFORE_AND_AFTER a
    transaction will wait for a acknowledge from all ONLINE members, a
    UNREACHABLE member will block a transaction execution until that
    member is reachable or leaves the group.
    
    A malicious user can set group_replication_consistency=AFTER or
    BEFORE_AND_AFTER on long lived transactions, which may block new
    transactions while those long lived transactions are being applied.

## 4、AFTER 执行流程 ##

首先，在事务执行节点上的流程如下：

1.  首先，事务进入提交阶段后，会执行一个`before_commit`的HOOK，在 mgr 中，对应的实现是 `group_replication_trans_before_commit`。AFTER 的一致性保证通过该接口实现。
2.  假设事务 T1 在节点 M1 上执行，如果是 AFTER 级别，会通过 paxos 发送一个携带事务全部数据的`Transaction_with_guarantee_message`消息，消息类型为 `CT_TRANSACTION_WITH_GUARANTEE_MESSAGE`。
3.  节点接收到该消息并处理时，首先会获取当前集群中的 online\_members。这里需要注意的是，即使节点状态变为 UNREACHABLE，只要没有踢出集群，也会认为是 online\_members。
4.  节点 M1 需要等待其它节点的消息反馈
5.  节点M1只有收到上述 online\_members 中所有节点的 prepared 消息时，才能继续完成提交

接下来，看一下其它节点（以M2节点为例）处理 AFTER 事务的流程：

1.  首先，paxos 接收到事务，并进入事务执行阶段
2.  事务T1在M2进入提交阶段时，调用 `before_hook`进行处理，不同于 M1的用户线程，M2上的复制线程是在 GR\_APPLIER\_CHANNEL 上执行
3.  将事务加入到 prepared 事务列表
4.  发送 transaction\_prepared 消息给所有的节点，并等待处理
5.  接收到其它节点对 transaction\_prepared 消息确认后，从 prepared 事务列表中移除该事务，并继续提交

对于 AFTER 模式，所有的节点在处理事务时，均需要发送一个 transaction\_prepared 消息并等待所有节点的确认，之后，用户线程执行的事务才能成功提交。排除用户线程等待所有节点事务提交的时间开销，这些消息处理的网络开销也会对性能造成一定的影响。

另一个需要注意的是，如果在M2节点，事务T1还未进入prepared阶段，此时开启新的事务并不会阻塞。在DEBUG版本下，可以通过如下步骤进行验证。

## 5、BEFORE 执行流程 ##

与 AFTER 相对应的是 BEFORE，如果一个 session 开启了 BEFORE 级别，则在事务开启时，需要等待所有已经提交的事务已经在本地完成提交，这是通过 `WAIT_FOR_GTID_SET` 实现。在事务的开启时刻，获取到节点已经同步接收到的所有的事务 gtid 集合，并等待集合内所有的 gtid 完成提交，即可保证事务执行时，读取到最新的数据。

但是在获取 gtid 集合之前，节点需要通过 paxos 发送一个 `SYNC_BEFORE_EXECUTION` 类型的消息。由于 paxos 会对消息进行排队，因此，当 `SYNC_BEFORE_EXECUTION` 处理完成时，可以保证该消息发送之前的所有的事务消息均完成在 paxos 中的处理。由于该消息是本次事务开启时产生的，因而此时节点收到的 gtid 集合符合 BEFORE 级别。

如果节点不发送 `SYNC_BEFORE_EXECUTION` 消息，则 BEFORE 级别未必能够读取到最新数据。假设当前存在网络分区，总共三个节点A，B，C，网络分区后，A，B节点组成多数派，C节点为少数派，此时，A，B节点上新的写入事务将不会继续同步到C节点。在 C 节点被踢出集群之前，如果 C 开启了 BEFORE 级别，却未发送 `SYNC_BEFORE_EXECUTION` 消息，那么 C 中不能读取到新的数据，违背了 BEFORE 的设计宗旨。但是发送该消息后，由于无法达成消息一致性，那么新的事务将失败、或者一直等待消息返回，而不会返回用户过时的数据。

如下示例则显示了多数节点故障下，BEFORE 级别的执行行为。

当然，由于 BEFORE 级别下，额外发送了一次 SYNC\_BEFORE\_EXECUTION 消息，增加了一次网络开销，对性能是有一定的影响的。

## 6、一些思考 ##

1.  AFTER 模式下，当其它节点事务进入到 prepared 阶段，但用户线程并未完成提交，此时要求新的事务开启时必须等待事务提交是否必要 ？当前设计下，这一要求会造成一定程度上的节点不可用。
2.  AFTER 模式需要等待所有的节点提交成功，这是一个强一致的数据同步方案，但同时会导致集群不可用。同时由于参数 group\_replication\_consistency 是一个 session 级的控制变量，即使某一个用户连接开启 AFTER 模式，都可能导致整个集群不可用。一个备选方案是，采用开源的GreatSQL分支的 majority-after 模式（group\_replication\_majority\_after\_mode = ON），可以规避上述问题。

## 7、参考文档 ##

1.  MySQL 设计文档（*https://dev.mysql.com/worklog/task/?id=10379*）
2.  MySQL 用户文档（*https://dev.mysql.com/doc/refman/8.0/en/group-replication-configuring-consistency-guarantees.html*）

Enjoy GreatSQL :)

--------------------

**文章推荐：**

*  [技术分享 | MGR最佳实践(MGR Best Practice)][_ MGR_MGR Best Practice]
 *  [技术分享 | 万里数据库MGR Bug修复之路][_ _MGR Bug]
 *  [技术分享 | 浅谈mysql语法解析调试方法][_ _mysql]
 *  [万答\#6，MySQL最多只能用到128个逻辑CPU，是真的吗][6_MySQL_128_CPU]
 *  [GreatSQL重磅特性，InnoDB并行并行查询优化测试][GreatSQL_InnoDB]
 *  [技术分析 | 浅谈在MySQL体系下SQL语句是如何在系统中执行的及可能遇到的问题][_ _MySQL_SQL]
 *  [产品 | GreatSQL，打造更好的MGR生态][_ GreatSQL_MGR]
 *  [产品 | GreatSQL MGR优化参考][_ GreatSQL MGR]

--------------------

扫码加入GreatSQL/MGR交流**QQ群**

![d4bd38916d81164267d94ac4739c1cf1.png][]

点击文末“**阅读原文**”直达GreatSQL项目主页

[_ MGR_MGR Best Practice]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6633f518ef25f19309e4b01ce5d4527d945a2a030b66a9d9bbaa598cb668eca30cb91a0f&idx=1&mid=2247484174&scene=21&sn=4f795e889e3778876b09143c4ffdc770#wechat_redirect
[_ _MGR Bug]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f64abf518edbdb278f1c21e98e39dc73b78397d01c2d583450a1da6d72a4ff32a0ec6db9c&idx=1&mid=2247483798&scene=21&sn=21fc1b1797074e002e1c684263b731e8#wechat_redirect
[_ _mysql]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6dc7f518e4d130bf1ada37f0c668c8ba6781b2cf1d52f6c4bb2acb214eb6806e1f055b13&idx=1&mid=2247485690&scene=21&sn=b59ceea40cb20f0e561fec6ca4399f74#wechat_redirect
[6_MySQL_128_CPU]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6dfbf518e4edb765fabe58a5751af016079f31156f6bea96be5188e3ab5b5a7bcbc8fd3f&idx=1&mid=2247485638&scene=21&sn=f5f218e59e3b818cdf2b849d1b0e8342#wechat_redirect
[GreatSQL_InnoDB]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6d84f518e4927f50accd342cce0540907e482de2743b450552797a6d1ec48f31776a5aaf&idx=1&mid=2247485625&scene=21&sn=a93826d85d9e1648d01b80a47eb6f838#wechat_redirect
[_ _MySQL_SQL]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6d92f518e4848ecdacc8496cf964efca5f36109aba7bffc194652068c634c9b776be7374&idx=1&mid=2247485615&scene=21&sn=9ef31abf23401ed48bb96be33f8ff20f#wechat_redirect
[_ GreatSQL_MGR]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6435f518ed23dc159db52768bfc358662cbd1a59351d168d392723698c099bebbed37bcd&idx=1&mid=2247483656&scene=21&sn=ca60b3875450cd3dfaad3519b12c9dcb#wechat_redirect
[_ GreatSQL MGR]: http://mp.weixin.qq.com/s?__biz=MzkzMTIzMDgwMg%3D%3D&chksm=c26f6430f518ed2673305f17f463fa5a31e624ad3ab6945c3796d3fc771d78ceff20aa614949&idx=1&mid=2247483661&scene=21&sn=2a8a73b65ba7ed0f6edc12bf11aa5e6f#wechat_redirect
[d4bd38916d81164267d94ac4739c1cf1.png]: /images/20220829/8cc45c12a0fe47fba53209a3902d3606.png