Kafka的版本演进

水深无声 2024-04-28 13:02 72阅读 0赞

一、Kafka版本规则
    在Kafka 1.0.0之前基本遵循4位版本号，比如Kafka 0.8.2.0、Kafka 0.11.0.3等。而从1.0.0开始Kafka就告别了4位版本号，遵循 Major.Minor.Patch 的版本规则，其中Major表示大版本，通常是一些重大改变，因此彼此之间功能可能会不兼容；Minor表示小版本，通常是一些新功能的增加；最后Patch表示修订版，主要为修复一些重点Bug而发布的版本。比如Kafka 2.1.1，大版本就是2，小版本是1，Patch版本为1，是为修复Bug发布的第1个版本。
    
    二、Kafka版本演进
    Kafka总共发布了7个大版本，分别是0.7.x、0.8.x、0.9.x、0.10.x、0.11.x、1.x及2.x版本。截止目前，最新版本是Kafka 2.4.0，也是最新稳定版本。
    
    0.7.x版本
    
    这是很老的Kafka版本，它只有基本的消息队列功能，连消息副本机制都没有，不建议使用。
    
    0.8.x版本
    
    两个重要特性，一个是Kafka 0.8.0增加了副本机制，另一个是Kafka 0.8.2.0引入了新版本Producer API。新旧版本Producer API如下：
    
    //旧版本
    Producerkafka.javaapi.producer.Producer<K,V> 
    
    //新版本
    Producerorg.apache.kafka.clients.producer.KafkaProducer<K,V>
    
    与旧版本相比，新版本Producer API有点不同，一是连接Kafka方式上，旧版本的生产者及消费者API连接的是Zookeeper，而新版本则连接的是Broker；二是新版Producer采用异步方式发送消息，比之前同步发送消息的性能有所提升。但此时的新版Producer API尚不稳定，不建议生产使用。
    
    0.9.x版本
    
    Kafka 0.9 是一个重大的版本迭代，增加了非常多的新特性，主要体现在三个方面：
    
    安全方面：在0.9.0之前，Kafka安全方面的考虑几乎为0。Kafka 0.9.0 在安全认证、授权管理、数据加密等方面都得到了支持，包括支持Kerberos等。
    
    新版本Consumer API：Kafka 0.9.0 重写并提供了新版消费端API，使用方式也是从连接Zookeeper切到了连接Broker，但是此时新版Consumer API也不太稳定、存在不少Bug，生产使用可能会比较痛苦；而0.9.0版本的Producer API已经比较稳定了，生产使用问题不大。
    
    Kafka Connect：Kafka 0.9.0 引入了新的组件 Kafka Connect ，用于实现Kafka与其他外部系统之间的数据抽取。
    
    0.10.x版本
    
    Kafka 0.10 是一个重要的大版本，因为Kafka 0.10.0.0 引入了 Kafka Streams，使得Kafka不再仅是一个消息引擎，而是往一个分布式流处理平台方向发展。0.10 大版本包含两个小版本：0.10.1 和 0.10.2，它们的主要功能变更都是在 Kafka Streams 组件上。
    
    值得一提的是，自 0.10.2.2 版本起，新版本 Consumer API 已经比较稳定了，而且 Producer API 的性能也得到了提升，因此对于使用 0.10.x 大版本的用户，建议使用或升级到 Kafka 0.10.2.2 版本。
    
    0.11.x版本
    
    Kafka 0.11 是一个里程碑式的大版本，主要有两个大的变更，一是Kafka从这个版本开始支持Exactly-Once 语义即精准一次语义，主要是实现了Producer端的消息幂等性，以及事务特性，这对于Kafka流式处理具有非常大的意义。
    
    另一个重大变更是Kafka消息格式的重构，Kafka 0.11主要为了实现Producer幂等性与事务特性，重构了投递消息的数据结构。这一点非常值得关注，因为Kafka 0.11之后的消息格式发生了变化，所以我们要特别注意Kafka不同版本间消息格式不兼容的问题。
    
    1.x版本
    
    Kafka 1.x 更多的是Kafka Streams方面的改进，以及Kafka Connect的改进与功能完善等。但仍有两个重要特性，一是Kafka 1.0.0实现了磁盘的故障转移，当Broker的某一块磁盘损坏时数据会自动转移到其他正常的磁盘上，Broker还会正常工作，这在之前版本中则会直接导致Broker宕机，因此Kafka的可用性与可靠性得到了提升；
    
    二是Kafka 1.1.0开始支持副本跨路径迁移，分区副本可以在同一Broker不同磁盘目录间进行移动，这对于磁盘的负载均衡非常有意义。
    
    2.x版本：
    
    Kafka 2.x 更多的也是Kafka Streams、Connect方面的性能提升与功能完善，以及安全方面的增强等。一个使用特性，Kafka 2.1.0开始支持ZStandard的压缩方式，提升了消息的压缩比，显著减少了磁盘空间与网络io消耗。
    
    
    
    
    2.11/2.12
    2.11/2.12代表着Kafka源代码的Scala编译器版本，Kafka服务器端代码完全由Scala语音编写，说到Scala就提两句，Scala与Java相同都是JVM系的语言，它同时支持面向对象和函数式编程
    
    Java的新功能， 也在慢慢的向着Scala进行靠近，例如Lambda表达式，函数式接口，val变量等
    
    但Kafka新版客户端代码完全由Java语言编写，当然，不是Scala不行了，而是社区找来了一批Java程序员而已，而之前的Scala程序员隐退罢了
    
    
    2.3.0
    说完了前面Scala编译器版本，来说一下后面的2.3.0
    
    事实上，后面的才是Kafka的版本号
    
    其中2代表着大版本号，即Major Version
    
    中间的3代表着小版本号或次版本号，即Minor Version
    
    最后的0代表着修订版本号或补丁，也就是Patch号
    
    Kafka社区在发布了1.0.0版本后，特意写了一篇文章，宣布Kafka版本命名规则从4位演进到3位，比如0.11.0.0版本就是4位版本号
    
    关于老一代的四位版本号，和3位相似，例如0.10.2.2，0.10代表版本号，第一个2代表小版本是2，第二个2代表总共有两个大的补丁，Patch号位2
    
    Kafka 2.4.0
    
    允许消费者从最近的副本进行获取
    
    为 Consumer Rebalance Protocol 增加对增量协同重新均衡（incremental cooperative             rebalancing）的支持
    
    新增 MirrorMaker 2.0 (MM2)，新的多集群跨数据中心复制引擎
    
    引入新的 Java 授权程序接口
    
    支持 KTable 中的非密钥连接
    
    用于重新分配副本的 Administrative API
    
    保护内部连接的 REST 端点
    
    新增删除消费者偏移并通过 AdminClient 公开的 API
    
    
    Kafka 2.5.0
    
    支持 TLS 1.3（目前默认 1.2 版本）
    
    Kafka Streams引入Co-groups
    
    Kafka Consumer增量平衡机制（Incremental rebalance）
    
    新指标可提供更好的运营监控
    
    升级Zookeeper为3.5.7
    
    不再支持Scala 2.11
    
    
    四、Kafka版本建议
    遵循一个基本原则，Kafka客户端版本和服务端版本应该保持一致，否则可能会遇到一些问题。
    
    根据是否用到了Kafka的一些新特性来选择，假如要用到Kafka生产端的消息幂等性，那么建议选择Kafka 0.11 或之后的版本。
    
    选择一个自己熟悉且稳定的版本，如果说没有比较熟悉的版本，建议选择一个较新且稳定、使用比较广泛的版本。