实时订阅推送设计与实现

雨点打透心脏的1/2处 2023-09-24 16:04 28阅读 0赞

> 本文已经收录到Github仓库，该仓库包含**计算机基础、Java基础、多线程、JVM、数据库、Redis、Spring、Mybatis、SpringMVC、SpringBoot、分布式、微服务、设计模式、架构**等核心知识点，欢迎star~
> 
> Github地址：https://github.com/Tyson0314/Java-learning

什么是领劵的订阅推送？就是用户订阅了该劵的推送，在可领取前的一分钟就要把提醒信息推送到用户的app中。具体方案就是到具体的推送时间点了，coupon系统调用消息中心的推送接口，把信息推送出去。

下面我们分析一下这个功能的业务情景。公司目前注册用户6000W+，比如有一张无门槛的优惠劵下单立减20元，那么抢这张劵的人就会比较多，我们保守估计10W+，百万级别不好说。我们初定为20W万人，那么这20W条推送信息要在一分钟推送完成！并且一个用户是可以订阅多张劵的。所以我们知道了这个订阅功能的有两个突出的难点：

1、**推送的实效性**：推送慢了，用户会抱怨没有及时通知他们错过了开抢时机。

2、**推送的体量大**：爆款的神劵，人人都想抢！

然而推送体量又会影响到推送的实效性。这真是一个让人头疼的问题！

那就让我们把问题一个个解决掉吧！

推送的实效性的问题：当用户在领劵中心订阅了某个劵的领取提醒后，在后台就会生成一条用户的订阅提醒记录，里面记录了在哪个时间点给用户发送推送信息。所以问题就变成了系统如何快速实时选出哪些要推送的记录！

*  方案1：**MQ的延迟投递**。MQ虽然支持消息的延迟投递，但是不适合用来做精确时间点投递！并且用户执行订阅之后又取消订阅的话，要把发出去的MQ消息delete掉这个操作有点头大，短时间内难以落地！并且用户可以取消之后再订阅，这又涉及到去重的问题。所以MQ的方案否掉。
 *  方案2：**传统定时任务**。这个相对来说就简单一点，用定时任务是去db里面load用户的订阅提醒记录，从中选出当前可以推送的记录。但有句话说得好任何脱离实际业务的设计都是耍流氓。下面我们就分析一下传统的定时任务到底适不适合我们的这个业务!

<table> 
 <thead> 
  <tr> 
   <th>能否支持多机同时跑</th> 
   <th>一般不能，同一时刻只能单机跑。</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>存储数据源</td> 
   <td>一般是mysql或者其它传统数据库，并且是单表存储</td> 
  </tr> 
  <tr> 
   <td>频率</td> 
   <td>支持秒、分、时、天，一般不能太快</td> 
  </tr> 
 </tbody> 
</table>

如上表格所示，可以看到一般传统的定时任务存在以下缺点：

1、**性能瓶颈**。只有一台机在处理，在大体量数据面前力不从心！

2、**实效性差**。定时任务的频率不能太高，太高会业务数据库造成很大的压力！

3、**单点故障**。万一跑的那台机挂了，那整个业务不可用了。这是一个很可怕的事情！

所以传统定时任务也不太适合这个业务。

那有其他解决方案吗？其实可以对传统的定时任务做一个简单的改造即可！把它变成可以同时多机跑，并且实效性可以精确到秒级，并且拒绝单点故障的定时任务集群！这其中就要借助我们的强大的redis了。

*  方案3：**定时任务集群**

首先我们要定义定时任务集群要解决的三个问题！

1、**实效性要高**

2、**吞吐量要大**

3、**服务要稳定**，不能有单点故障

下面是整个定时任务集群的架构图。

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TcAnrUar-1672813200118)(http://img.topjavaer.cn/img/定时任务集群.png)\]

架构很简单：我们把用户的订阅推送记录存储到redis集群的sortedSet队列里面，且以提醒用户提醒时间戳作为score值，然后在我们个每业务server里面起一个定时器频率是秒级，我的设定就是1s，然后经过负载均衡之后从某个队列里面获取要推送的用户记录进行推送。下面我们分析以下这个架构。

1、性能：除去带宽等其它因素，基本与机器数成线性相关。机器数量越多吞吐量越大，机器数量少时相对的吞吐量就减少。

2、实效性：提高到了秒级，效果还可以接受。

3、单点故障？不存在的！除非redis集群或者所有server全挂了。

这里解释一下为什么用redis？

1.  redis 可以作为一个高性能的存储db，性能要比MySQL好很多，并且支持持久化，稳定性好。
2.  redis SortedSet队列天然支持以时间作为条件排序，完美满足我们选出要推送的记录。

既然方案已经有了，怎么实现呢？

首先我们以user\_id作为key，然后mod队列数hash到redis SortedSet队列里面。为什么要这样呢，因为如果用户同时订阅了两张劵并且推送时间很近，这样的两条推送就可以合并成一条，并且这样hash也相对均匀。下面是部分代码的截图：

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-6xT4yAQm-1672813200120)(http://img.topjavaer.cn/img/消息订阅推送1.png)\]

然后要决定队列的数量，一般正常来说我们有多少台处理的服务器就定义多少条队列。因为队列太少，会造成队列竞争，太多可能会导致记录得不到及时处理。

然而最佳实践是队列数量应该是可动态配置化的，因为线上的集群机器数是会经常变的。大促的时候我们会加机器是不是，并且业务量增长了，机器数也是会增加是不是~。所以我是借用了淘宝的diamond进行队列数的动态配置。

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-iEl0DmtA-1672813200123)(http://img.topjavaer.cn/img/消息订阅推送2.png)\]

我们每次从队列里面取多少条记录也是可以动态配置的

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jU3Jaf4A-1672813200124)(http://img.topjavaer.cn/img/消息订阅推送3.png)\]

这样就可以随时根据实际的生产情况调整整个集群的吞吐量。 所以我们的定时任务集群还是具有一个特性就是支持动态调整。

最后一个关键组件就是负载均衡了。这个是非常重要的！因为这个做得不好就会可能导致多台机竞争同时处理一个队列，影响整个集群的效率！在时间很紧的情况下我就用了一个简单的方案，利用redis一个自增key，然后 mod 队列数量算法。这样就很大程度上就保证不会有两台机器同时去竞争一条队列。

\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-OFnY5dyo-1672813200125)(http://img.topjavaer.cn/img/消息订阅推送4.png)\]

最后我们算一下整个集群的吞吐量

10（机器数） \* 2000（一次拉取数） = 20000。然后以MQ的形式把消息推送到消息中心，发MQ是异步的，算上其它处理0.5s。

其实发送20W的推送也就是10几s的事情。

到这里我们整个定时任务集群就差不多基本落地好了。反过来仔细思考了一下，有以下可以**优化的点**：

1、加监控， 集群怎么可以木有监控呢，万一出问题有任务堆积怎么办。

2、加上可视化界面。

3、最好有智能调度，增加任务优先级。确保优先级高的任务先运行。

4、资源调度，万一机器数量不够，力不从心，优先保证重要任务执行。

目前项目已上线，运行稳定。

最后给大家分享一个Github仓库，上面有大彬整理的**300多本经典的计算机书籍PDF**，包括**C语言、C++、Java、Python、前端、数据库、操作系统、计算机网络、数据结构和算法、机器学习、编程人生**等，可以star一下，下次找书直接在上面搜索，仓库持续更新中~

**Github地址**：https://github.com/Tyson0314/java-books

实时订阅推送设计与实现

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关 springboot整合mqtt实现消息订阅和推送

相关 Web 实时消息推送详解

相关 SpringBoot整合MQTT服务器实现消息的发送与订阅(推送消息与接收推送)

相关 SpringMVC的SseEmitter实时推送

相关实时订阅推送设计与实现

相关 php是实现websocket实时消息推送的

相关 .net 服务器推送信息,asp.net mvc实现简单的实时消息推送

相关 HTTP：实时消息推送

相关 python websocket实时消息推送

相关 WebSocket实时推送消息