Kafka和Rocketmq区别

墨蓝 2022-12-20 02:28 109阅读 0赞

[Rocketmq和Kafka区别][Rocketmq_Kafka]

# Kafka #

号称大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开Kafka，这款为大数据而生的消息中间件，以其百万级TPS的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集、传输、存储的过程中发挥着举足轻重的作用。

Apache Kafka它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log)，之后成为Apache项目的一部分。

目前已经被LinkedIn，Uber, Twitter, Netflix等大公司所采纳。

优点

性能卓越，单机写入TPS约在百万条/秒，最大的优点，就是吞吐量高。  
时效性：ms级  
可用性：非常高，kafka是分布式的，一个数据多个副本，少数机器宕机，不会丢失数据，不会导致不可用  
消费者采用Pull方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次;  
有优秀的第三方Kafka Web管理界面Kafka-Manager；  
在日志领域比较成熟，被多家公司和多个开源项目使用；  
功能支持：功能较为简单，主要支持简单的MQ功能，在大数据领域的实时计算以及日志采集被大规模使用  
缺点：

Kafka单机超过64个队列/分区，Load会发生明显的飙高现象，队列越多，load越高，发送消息响应时间变长  
使用短轮询方式，实时性取决于轮询间隔时间；  
消费失败不支持重试；  
支持消息顺序，但是一台代理宕机后，就会产生消息乱序；  
社区更新较慢；

## kafka存储 ##

kafka的topic是partition的概念，一个topic会有多个partition，partition会分布在不同的broker上，在单个partition是顺序写。broker写消息到partition的时候是写到pagecache中。  
  但是，你有没有想过一个问题，当broker单机的partition过多的时候，很多partition同时往pagecache中写数据，相对与磁盘来说这就是随机写了，这时候kafka的性能会急剧下降。

## kafka高可用 ##

kafka单个partition会有多个副本，producer写数据的时候，会往leader里面写(读消息也是从leader副本读)，然后follower会同步leader的数据，同时会在zk中维护一个isr的副本列表，在isr列表中的副本都是能跟上leader数据的。如当一个副本所在的机器宕机或发生了fullGc，这时候这个副本会被剔除isr列表，当这个副本跟上leader数据的offset之后，会被重新加入到isr列表中。当副本的leader挂了以后，zk会在isr中的副本选主，所以kafka的副本最少可以设置一个。

kafka消息不丢失  
  kafka的生产者acks提供了几个选项，发送到主不管是否成功就返回、发送到主主成功后返回、发送到主 主同步到所有的副本成功后返回。  
kafka没有提供主动刷盘的机制，要保证消息不丢失，应该等所有的副本同步完了在返回成功。  
在多副本情况下，涉及到副本之间数据同步，必然有快慢之分，因此kafka有两个概念 : LEO和HW。  
LEO:即日志末端位移(log end offset)，记录了该副本底层日志(log)中下一条消息的位移值，leader 更新LEO的值是在写入数据后更新，follower更新LEO的值是follower从leader拉取数据写入到本地之后更新。  
HW:即水位值，小于HW的offset被认为是更新到所有副本，这时候该数据可以被消费者消费。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbmdzaGVuZ3dlaTIzMDYxMg_size_16_color_FFFFFF_t_70_pic_center]

# RocketMQ #

RocketMQ出自 阿里公司的开源产品，用 Java 语言实现，在设计时参考了 Kafka，并做出了自己的一些改进。

RocketMQ在阿里集团被广泛应用在订单，交易，充值，流计算，消息推送，日志流式处理，binglog分发等场景。

RocketMQ优点：

单机吞吐量：十万级  
可用性：非常高，分布式架构  
消息可靠性：经过参数优化配置，消息可以做到0丢失  
功能支持：MQ功能较为完善，还是分布式的，扩展性好  
支持10亿级别的消息堆积，不会因为堆积导致性能下降  
源码是java，我们可以自己阅读源码，定制自己公司的MQ，可以掌控

[Rocketmq_Kafka]: https://www.cnblogs.com/qinghe123/p/13201713.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lhbmdzaGVuZ3dlaTIzMDYxMg_size_16_color_FFFFFF_t_70_pic_center]: /images/20221120/da678b034bb248b08968b26db42b9db4.png