MySQL和Redis 数据同步解决方案整理

女爷i 2022-06-05 04:07 340阅读 0赞

做一个Redis箱格信息数据同步到数据库Mysql的功能。

大概方案。

1.队列同步，变跟数据2份，使用消息队列，一份给Redis消费，一份给Mysql消费。

2.后台定时任务，定时刷新Redis中箱格信息到数据库。

网上也到处找了下解决方案，发现这么个问题，居然是天下一大抄，还抄的一字不差，我也抄吧。

### 方案一： ###

读: 读redis->没有，读mysql->把mysql数据写回redis

写: 写mysql->成功，写redis。

就是读的话，先读Redis,Redis没有再读数据库，将数据库中的数据放入Redis。

写（增删改），先写数据库，然后写Redis。

可以对此稍微优化，比如要求一致性高的数据，从数据库读，比如金融，交易数据。不要求强一致性的从Reids中读取。

### 方案二： ###

基于binlog使用mysql\_udf\_redis，将数据库中的数据同步到Redis。

### 方案三： ###

基于MQ，也就是最上面想到的方式1。

### 方案四： ###

官方有个memcached的udf插件，如果不是那么强烈非要redis的话，也可以考虑

如果是我选择2，顺便推荐发下大神的广告：http://coolshell.cn/articles/17416.html

### 方案五： ###

用POSTGRESQL 替代 Mysql +Redis.

### 方案六： ###

mysql 同步到redis：解析mysql的binlog，然后做同步处理，可以使用的库有： [open-replicator][]（ [https://github.com/whitesock/open-replicator][open-replicator]）

### 方案七： ###

同步redis数据到mysql：（ [https://github.com/leonchen83/redis-replicator][https_github.com_leonchen83_redis-replicator]）

### 各种方案弊端 ###

但是上面的方案都有各自的弊端。

方案一，明显对于数据量巨大，更新频繁的数据写入无能为力。比如E栈终端的箱格，箱格数量巨大，每个箱格的变跟状态又很频繁，这样很容易把数据库写挂。

方案二，是使用的mysql的User Defined Function功能，mysql\_udf\_redis是有人实现的同步数据到Redis的功能，弊端：需要学习成本，而来，第三方的插件不稳定。

方案三：怎么保证到数据库和到Redis中的状态一致性。就是假设一条修改数据，从队列写入到Mysql成功，但是写入到Redis失败，这种如何搞。还有就是需要一个消息队列，使用第三方的比如Kafka，RabbitMq等来实现，管理起来不方便，系统整体稳定性不行，而且只是这么个比较小的箱格数据信息同步。有点杀鸡用牛刀。

### 其他的方案： ###

订阅key的变化进行数据库更新，写的时候写2份，一份往Redis写，一份是Redis数据的key网更新队列（也可以直接Reids存）里写，再写个定时程序从更新队列里取时间，根据key取出Redis数据到Mysql.

这个方案，其实和其他的不一样，弊端了，就是占用内存大，因为需要维护一份更新队列。

最后了，我上级是说用定时任务，刷Redis中的箱格状态信息到数据库。2W个终端，一个终端100个箱格，200W个箱格，首先是进行状态比对，状态不一致的放入集合，批量update数据库。

其实也会有写小问题，比如在比对的时候：

1.Redis中的箱格状态变跟了，怎么办？我们不可能在比对的时候锁住Redis，200W次循环，这段时间完全可能发生状态变跟。

2.在比对的时候，有人更新了数据库，怎么办？因为有些操作是可以直接更新数据库的。比如更新箱格的layoutRow之类的信息。

来自：http://3gods.com/2016/06/23/Redis-Sync-DB.html

参考：http://coolshell.cn/articles/17416.html

http://www.cnblogs.com/linjiqin/p/3569011.html

[open-replicator]: https://github.com/whitesock/open-replicator
[https_github.com_leonchen83_redis-replicator]: https://github.com/leonchen83/redis-replicator