mysql并行复制降低主从同步延时的思路与启示

今天药忘吃喽~ 2022-05-31 07:10 199阅读 0赞

## 一、缘起 ##

mysql主从复制，读写分离是互联网用的非常多的mysql架构，主从复制最令人诟病的地方就是，在数据量较大并发量较大的场景下，主从延时会比较严重。

为什么mysql主从延时这么大？

![70][]  
回答：从库使用【单线程】重放relaylog。

优化思路是什么？

回答：使用单线程重放relaylog使得同步时间会比较久，导致主从延时很长，优化思路不难想到，可以【多线程并行】重放relaylog来缩短同步时间。

mysql如何“多线程并行”来重放relaylog，是本文要分享的主要内容。

## 二、如何多线程并行重放relaylog ##

![70 1][]  
通过多个线程来并行重放relaylog是一个很好缩短同步时间的思路，但实施之前要解决这样一个问题：

如何来分割relaylog，才能够让多个work-thread并行操作数据data时，使得data保证一致性？

首先，【随机的分配relaylog肯定是不行的】，假设relaylog中有这样三条串行的修改记录：

update account set money=100 where uid=58;

update account set money=150 where uid=58;

update account set money=200 where uid=58;

串行执行：肯定能保证与主库的执行序列一致，最后得到money=200

随机分配并行执行：3个工作线程并发执行这3个语句，谁最后执行成功是不确定的，故得到的数据可能与主库不同

好，对于这个问题，可以用什么样的思路来解决呢（大伙怎么想，mysql团队其实也就是这么想的）

【方法一：相同库上的写操作，用相同的work-thread来重放relaylog；不同库上的写操作，可以用多个work-thread并发来重放relaylog】

![70 2][]  
如何做到呢？

回答：不难，hash(db-name) % thread-num，库名hash之后再模上线程数，就能够做到。

存在的不足？

很多公司对mysql的使用是“单库多表”，如果是这样的话，仍然是同一个work-thread在串行执行，还是不能提高relaylog的重放速度。

优化方案：将“单库多表”的模式升级为“多库多表”的模式。

其实，数据量大并发量大的互联网业务场景，“多库”模式还具备着其他很多优势，例如：

（1）非常方便的实例扩展：dba很容易将不同的库扩展到不同的实例上

（2）按照业务进行库隔离：业务解耦，进行业务隔离，减少耦合与相互影响

（3）…

对于架构师进行架构设计的启示是：使用多库的方式设计db架构，能够降低主从同步的延时。

新的想法：“单库多表”的场景，还有并行执行优化余地么？

仔细回顾和思考，即使只有一个库，数据的修改和事务的执行在主库上也是并行操作的，既然在主库上可以并行操作，在从库上为啥就不能并行操作，而要按照库来串行执行呢（表示不服）？

新的思路：将主库上同时并行执行的事务，分为一组，编一个号，这些事务在从库上的回放可以并行执行（事务在主库上的执行都进入到prepare阶段，说明事务之间没有冲突，否则就不可能提交），没错，mysql正是这么做的。

【方法二：基于GTID的并行复制】

新版的mysql，将组提交的信息存放在GTID中，使用mysqlbinlog工具，可以看到组提交内部的信息：

20160607 23:22 server\_id 58 XXX GTID last\_committed=0 sequence\_numer=1

20160607 23:22 server\_id 58 XXX GTID last\_committed=0 sequence\_numer=2

20160607 23:22 server\_id 58 XXX GTID last\_committed=0 sequence\_numer=3

20160607 23:22 server\_id 58 XXX GTID last\_committed=0 sequence\_numer=4

![70 3][]  
和原来的日志相比，多了last\_committed和sequence\_number。

last\_committed表示事务提交时，上次事务提交的编号，如果具备相同的last\_committed，说明它们在一个组内，可以并发回放执行。

## 三、结尾 ##

从mysql并行复制缩短主从同步时延的思想可以看到，架构的思路是相同的：

（1）多线程是一种常见的缩短执行时间的方法

（2）多线程并发分派任务时必须保证幂等性：mysql的演进思路，提供了“按照库幂等”，“按照commit\_id幂等”两种方式，思路大伙可以借鉴

另，mysql在并行复制上的逐步优化演进：

mysql5.5 \-> 不支持并行复制，对大伙的启示：升级mysql吧

mysql5.6 \-> 按照库并行复制，对大伙的启示：使用“多库”架构吧

mysql5.7 \-> 按照GTID并行复制

[70]: /images/20220531/4189ccd20dfa4b569cdc4881c042f149.png
[70 1]: /images/20220531/e4b869cb7ab6401883192ff74de5b056.png
[70 2]: /images/20220531/fa5d776ac60a4d44a6acb6c832036c6e.png
[70 3]: /images/20220531/af67d86e484640529f4cf97072dc6190.png

发表评论取消回复

表情：

评论列表（有 0 条评论，199人围观）

还没有评论，来说两句吧...

相关阅读

相关 MySql之主从复制延时

MySql之主从复制延时一、MySQL主从复制模型一切都要从MySQL的主从复制模型开始说起，下图是最经典的MySQL主从复制模型架构图： ![在这里插入图片描述

左手的ㄟ右手/ 2023年10月14日 13:20/ 0 赞/ 16 阅读

相关 MySQL的主从复制&主从同步

MySQL 主从复制概念 MySQL 主从复制是指数据可以从一个MySQL数据库服务器主节点复制到一个或多个从节点。MySQL 默认采用异步复制方式，这样从节点不用一直访问

客官°小女子只卖身不卖艺/ 2023年07月20日 10:43/ 0 赞/ 23 阅读

相关 MySql之主从复制延时

一、MySQL主从复制模型一切都要从MySQL的主从复制模型开始说起，下图是最经典的MySQL主从复制模型架构图： ![图片][f55ffeff4f6277f203d

Bertha 。/ 2022年10月30日 01:27/ 0 赞/ 142 阅读

相关 MySQL常见面试题：什么是主从延时？如何降低主从延时？

1. 背景 > 高并发这个阶段，肯定是需要做读写分离的，啥意思？因为实际上大部分的互联网公司，一些网站，或者是 app，其实都是读多写少。所以针对这个情况，就是写一个主库

谁借莪１个温暖的怀抱￠/ 2022年09月10日 04:09/ 0 赞/ 76 阅读

相关 MySQL主从复制延时方法

延时的确诊通过show slave status 命令输出的Seconds_Behind_Master参数的值来判断 NULL表示io_thread或

快来打我*/ 2022年09月04日 08:48/ 0 赞/ 204 阅读

相关 mysql并行复制降低主从同步延时的思路与启示

一、缘起 mysql主从复制，读写分离是互联网用的非常多的mysql架构，主从复制最令人诟病的地方就是，在数据量较大并发量较大的场景下，主从延时会比较严重。为什

今天药忘吃喽~/ 2022年05月31日 07:10/ 0 赞/ 200 阅读

相关 mysql主从同步延时解决

在从服务器上执行show slave status;可以查看到很多同步的参数，我们需要特别注意的参数如下： Master\_Log\_File： SLAVE中的I/O线程当前

我不是女神ヾ/ 2022年05月16日 13:58/ 0 赞/ 226 阅读

相关 mysql 主从复制基于gtid的同步复制，并行复制，半同步复制

一、mysql 主从复制 1.主从形式 mysql主从复制灵活一主一从主主复制一主多从---扩展系统读取的性能，因为读是在从库读取的；

傷城~/ 2022年05月10日 11:54/ 0 赞/ 322 阅读

相关 MySQL主从同步机制和同步延时问题追查

今天遇到一个问题，`Mysql`持续报错，主从同步延时数过大或错误。所以这篇文章给大家分享下主从同步的机制原理以及问题排查思路。故障表现最直观的表现为：

古城微笑少年丶/ 2022年03月07日 13:14/ 0 赞/ 246 阅读

相关 MySQL主从同步机制与同步延时问题追查过程

作为一名DBA，在工作中会经常遇到一些MySQL主从同步延迟的问题，这些同步慢的问题，其实原因非常多，可能是因为主从的网络问题导致，可能是因为网络带宽问题导致，可能是因为大事务

桃扇骨/ 2022年02月22日 11:58/ 0 赞/ 282 阅读