Kafka的安装与理论

待我称王封你为后i 2022-12-29 02:19 94阅读 0赞

#  一、 KafKa #

##  1.1 Kafka是什么 ##

在流式计算中，Kafka一般用来缓存数据，Storm通过消费Kafka的数据进行计算。  
1）Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。  
2）Kafka最初是由LinkedIn开发，并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。  
3）Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类，发送消息者称为Producer，消息接受者称为Consumer，此外kafka集群有多个kafka实例组成，每个实例(server)成为broker。  
4）无论是kafka集群，还是producer和consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性

## 1.2 Kafka内部实现原理 ##

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70][]  
（1）点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）  
点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此。  
（2）发布/订阅模式（一对多，数据生产后，推送给所有订阅者）  
发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者，临时订阅者只在主动监听主题时才接收消息，而持久订阅者则监听主题的所有消息，即使当前订阅者不可用，处于离线状态。

##    1.3 为什么需要消息队列 ##

1）解耦：  
　　允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。  
2）冗余：  
消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。许多消息队列所采用的"插入-获取-删除"范式中，在把一个消息从队列中删除之前，需要你的处理系统明确的指出该消息已经被处理完毕，从而确保你的数据被安全的保存直到你使用完毕。  
3）扩展性：  
因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的，只要另外增加处理过程即可。  
4）灵活性 & 峰值处理能力：  
在访问量剧增的情况下，应用仍然需要继续发挥作用，但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力，而不会因为突发的超负荷的请求而完全崩溃。  
5）可恢复性：  
系统的一部分组件失效时，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。  
6）顺序保证：  
在大多使用场景下，数据处理的顺序都很重要。大部分消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。（Kafka保证一个Partition内的消息的有序性）  
7）缓冲：  
有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息的处理速度不一致的情况。  
8）异步通信：  
很多时候，用户不想也不需要立即处理消息。消息队列提供了异步处理机制，允许用户把一个消息放入队列，但并不立即处理它。想向队列中放入多少消息就放多少，然后在需要的时候再去处理它们。

##    1.4 Kafka架构 ##

1）Producer ：消息生产者，就是向kafka broker发消息的客户端。  
2）Consumer ：消息消费者，向kafka broker取消息的客户端  
3）Topic ：可以理解为一个队列。  
4） Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。一个topic可以有多个CG。topic的消息会复制（不是真的复制，是概念上的）到所有的CG，但每个partion只会把消息发给该CG中的一个consumer。如果需要实现广播，只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic。  
5）Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic。  
6）Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id（offset）。kafka只保证按一个partition中的顺序将消息发给consumer，不保证一个topic的整体（多个partition间）的顺序。  
7）Offset：kafka的存储文件都是按照offset.kafka来命名，用offset做名字的好处是方便查找。例如你想找位于2049的位置，只要找到2048.kafka的文件即可。当然the first offset就是00000000000.kafka

#     二 Kafka集群部署 #

##  2.1 环境准备 ##

### 2.1.1 集群规划 ###

<table style="width:500px;"> 
 <tbody> 
 <tr> 
 <td>hadoop01</td> 
 <td>hadoop02</td> 
 <td>hadoop03</td> 
 </tr> 
 <tr> 
 <td>zookeeper</td> 
 <td>zookeeper</td> 
 <td>zookeeper</td> 
 </tr> 
 <tr> 
 <td>kafka</td> 
 <td>kafka</td> 
 <td>kafka</td> 
 </tr> 
 </tbody> 
</table>

###    2.1.2 kafka的gz包下载 ###

### [http://kafka.apache.org/downloads.html][http_kafka.apache.org_downloads.html] ###

##  2.2 Kafka集群部署  ##

修改配置文件：

cd /mine/kafka_2.13-2.6.0/config

vim server.properties

#broker的全局唯一编号，不能重复
    broker.id=1
    #删除topic功能使能
    delete.topic.enable=true
    #kafka运行日志存放的路径
    log.dirs=/mine/kafka_2.13-2.6.0/logs
    #配置连接Zookeeper集群地址
    zookeeper.connect=hadoop01:2181,hadoop02:2181,hadoop03:2181

### mkdir logs   ![2020121915454619.png][]   配置环境变量： ###

vim /etc/profile

export JAVA_HOME=/mine/jdk1.8.0_201
    export HIVE_HOME=/mine/apache-hive-3.1.2-bin
    export HADOOP_HOME=/mine/hadoop-3.2.0
    export FLUME_HOME=/mine/apache-flume-1.9.0-bin
    export SQOOP_HOME=/mine/sqoop-1.4.6.bin__hadoop-2.0.4-alpha
    export ZOOKEEPER_HOME=/mine/apache-zookeeper-3.6.2-bin
    export HBASE_HOME=/mine/hbase-2.3.3
    export STORM_HOME=/mine/apache-storm-2.2.0
    export KAFKA_HOME=/mine/kafka_2.13-2.6.0
    export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:/$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$HIVE_HOME/bin:$FLUME_HOME/bin:$SQOOP_HOME/bin:$HBASE_HOME/bin:$STORM_HOME/bin:$KAFKA_HOME/bin

**分别在hadoop02和hadoop03拷贝kafka的安装包，并在机器上修改配置文件/mine/kafka\_2.13-2.6.0/config/server.properties中的broker.id=2、broker.id=3**  
**注：broker.id不得重复**

# 启动KAFKA集群： #

**在hadoop01、hadoop02、hadoop03上启动kafka：**

kafka-server-start.sh /mine/kafka_2.13-2.6.0/config/server.properties &

![20201219165206857.png][]

## **Kafka命令行操作** ##

1）查看当前服务器中的所有topic

kafka-topics.sh --list --zookeeper hadoop01:2181

![20201219165315132.png][]

2）创建topic

kafka-topics.sh --create --zookeeper hadoop01:2181 --replication-factor 3 --partitions 1 --topic firstTopic

**选项说明：**

**--topic 定义topic名**

**--replication-factor  定义副本数**

**--partitions  定义分区数**

![20201219165243764.png][]

3）删除topic

kafka-topics.sh --delete --zookeeper hadoop01:2181 --topic firstTopic

需要server.properties中设置**delete.topic.enable=tru**e否则只是标记删除或者直接重启。

4）发送消息

kafka-console-producer.sh --broker-list hadoop01:9092 --topic firstTopic

>hello world

>hello kitty

5）消费消息

kafka-console-consumer.sh --zookeeper hadoop01:2181 --from-beginning --topic firstTopic

6）查看某个Topic的详情

*  **消息消费**

kafka-console-consumer.sh --bootstrap-server hadoop01:9092,hadoop02:9092,hadoop03:9092 --topic firstTopic

表示从 latest 位移位置开始消费该主题的所有分区消息，即仅消费正在写入的消息。

*  **从开始位置消费**

表示从指定主题中有效的起始位移位置开始消费所有分区的消息。

kafka-console-consumer.sh --bootstrap-server hadoop01:9092,hadoop02:9092,hadoop03:9092 --from-beginning --topic firstTopic

*  **显示key消费**

kafka-console-consumer.sh --bootstrap-server hadoop01:9092,hadoop02:9092,hadoop03:9092 --property print.key=true --topic firstTopic

若还需要为你的消息添加其他属性，请参考下述列表。

<table> 
 <thead> 
 <tr> 
 <th style="vertical-align:middle;">参数</th> 
 <th style="vertical-align:middle;">值类型</th> 
 <th style="vertical-align:middle;">说明</th> 
 <th style="vertical-align:middle;">有效值</th> 
 </tr> 
 </thead> 
 <tbody> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--topic</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">被消费的topic</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--whitelist</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">正则表达式，指定要包含以供使用的主题的白名单</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--partition</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">integer</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">指定分区 除非指定’–offset’，否则从分区结束(latest)开始消费</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--offset</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">执行消费的起始offset位置 默认值:latest</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">latest earliest &lt;offset&gt;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--consumer-property</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">将用户定义的属性以key=value的形式传递给使用者</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--consumer.config</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">消费者配置属性文件 请注意，[consumer-property]优先于此配置</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--formatter</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">用于格式化kafka消息以供显示的类的名称 默认值:kafka.tools.DefaultMessageFormatter</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">kafka.tools.DefaultMessageFormatter kafka.tools.LoggingMessageFormatter kafka.tools.NoOpMessageFormatter kafka.tools.ChecksumMessageFormatter</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--property</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">初始化消息格式化程序的属性</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">print.timestamp=true|false print.key=true|false print.value=true|false key.separator=&lt;key.separator&gt; line.separator=&lt;line.separator&gt; key.deserializer=&lt;key.deserializer&gt; value.deserializer=&lt;value.deserializer&gt;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--from-beginning</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">从存在的最早消息开始，而不是从最新消息开始</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--max-messages</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">integer</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">消费的最大数据量，若不指定，则持续消费下去</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--timeout-ms</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">integer</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">在指定时间间隔内没有消息可用时退出</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--skip-message-on-error</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">如果处理消息时出错，请跳过它而不是暂停</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--bootstrap-server</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">必需(除非使用旧版本的消费者)，要连接的服务器</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--key-deserializer</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--value-deserializer</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--enable-systest-events</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">除记录消费的消息外，还记录消费者的生命周期 (用于系统测试)</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--isolation-level</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">设置为read_committed以过滤掉未提交的事务性消息 设置为read_uncommitted以读取所有消息 默认值:read_uncommitted</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--group</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">指定消费者所属组的ID</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--blacklist</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">要从消费中排除的主题黑名单</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--csv-reporter-enabled</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">如果设置，将启用csv metrics报告器</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--delete-consumer-offsets</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">如果指定，则启动时删除zookeeper中的消费者信息</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--metrics-dir</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">输出csv度量值 需与[csv-reporter-enable]配合使用</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">&nbsp;</td> 
 </tr> 
 <tr> 
 <td style="border-color:#dddddd;vertical-align:middle;">--zookeeper</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">string</td> 
 <td style="border-color:#dddddd;vertical-align:middle;">必需(仅当使用旧的使用者时)连接zookeeper的字符串。&nbsp; 可以给出多个URL以允许故障转移</td> 
 </tr> 
 </tbody> 
</table>

## **3.1 Kafka生产过程分析** ##

### **3.1.1 写入方式** ###

producer采用推（push）模式将消息发布到broker，每条消息都被追加（append）到分区（patition）中，属于顺序写磁盘（顺序写磁盘效率比随机写内存要高，保障kafka吞吐率）。

### **3.1.2 分区（Partition）** ###

消息发送时都被发送到一个topic，其本质就是一个目录，而topic是由一些Partition Logs(分区日志)组成，其组织结构如下图所示：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 1][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 2][]

我们可以看到，每个Partition中的消息都是有序的，生产的消息被不断追加到Partition log上，其中的每一个消息都被赋予了一个唯一的offset值。

1）分区的原因

（1）方便在集群中扩展，每个Partition可以通过调整以适应它所在的机器，而一个topic又可以有多个Partition组成，因此整个集群就可以适应任意大小的数据了；

（2）可以提高并发，因为可以以Partition为单位读写了。

2）分区的原则

（1）指定了patition，则直接使用；

（2）未指定patition但指定key，通过对key的value进行hash出一个patition

（3）patition和key都未指定，使用轮询选出一个patition

### **3.1.3 副本（Replication）** ###

同一个partition可能会有多个replication（对应 server.properties 配置中的 default.replication.factor=N）。没有replication的情况下，一旦broker 宕机，其上所有 patition 的数据都不可被消费，同时producer也不能再将数据存于其上的patition。引入replication之后，同一个partition可能会有多个replication，而这时需要在这些replication之间选出一个leader，producer和consumer只与这个leader交互，其它replication作为follower从leader 中复制数据。

### **3.1.4 写入流程** ###

producer写入消息流程如下：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 3][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 4][]

1）producer先从zookeeper的 "/brokers/.../state"节点找到该partition的leader

2）producer将消息发送给该leader

3）leader将消息写入本地log

4）followers从leader pull消息，写入本地log后向leader发送ACK

5）leader收到所有ISR中的replication的ACK后，增加HW（high watermark，最后commit 的offset）并向producer发送ACK

## **3.2 broker 保存消息** ##

### **3.2.1 存储方式** ###

物理上把topic分成一个或多个patition（对应 server.properties 中的num.partitions=6配置），每个patition物理上对应一个文件夹（该文件夹存储该patition的所有消息和索引文件），如下：

kafka-topics.sh --create --zookeeper hadoop01:2181 --replication-factor 3 --partitions 6 --topic firstTopic

![20201219180200762.png][]

cd firstTopic-0

![20201219180336308.png][]

### **3.2.2 存储策略** ###

无论消息是否被消费，kafka都会保留所有消息。有两种策略可以删除旧数据：

1）基于时间：log.retention.hours=168

2）基于大小：log.retention.bytes=1073741824

需要注意的是，因为Kafka读取特定消息的时间复杂度为O(1)，即与文件大小无关，所以这里删除过期文件与提高 Kafka 性能无关。

### **3.2.3 Zookeeper存储结构** ###

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 5][]

![20201219182510827.png][]

zkCli.sh

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 6][]

**注意：producer不在zookeeper中注册，消费者在zookeeper中注册。**

## **3.3 Kafka消费过程分析** ##

kafka提供了两套consumer API：高级Consumer API和低级API。

### **3.3.1 高级API** ###

1）高级API优点

高级API 写起来简单

不需要去自行去管理offset，系统通过zookeeper自行管理

不需要管理分区，副本等情况，系统自动管理

消费者断线会自动根据上一次记录在zookeeper中的offset去接着获取数据（默认设置1分钟更新一下zookeeper中存的的offset）

可以使用group来区分对同一个topic 的不同程序访问分离开来（不同的group记录不同的offset，这样不同程序读取同一个topic才不会因为offset互相影响）

2）高级API缺点

不能自行控制offset（对于某些特殊需求来说）

不能细化控制如分区、副本、zk等

### **3.3.2 低级API** ###

1）低级 API 优点

能够开发者自己控制offset，想从哪里读取就从哪里读取。

自行控制连接分区，对分区自定义进行负载均衡

对zookeeper的依赖性降低（如：offset不一定非要靠zk存储，自行存储offset即可，比如存在文件或者内存中）

2）低级API缺点

太过复杂，需要自行控制offset，连接哪个分区，找到分区leader 等。

### **3.3.3 消费者组** ###

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 7][]

消费者是以consumer group消费者组的方式工作，由一个或者多个消费者组成一个组，共同消费一个topic。每个分区在同一时间只能由group中的一个消费者读取，但是多个group可以同时消费这个partition。在图中，有一个由三个消费者组成的group，有一个消费者读取主题中的两个分区，另外两个分别读取一个分区。某个消费者读取某个分区，也可以叫做某个消费者是某个分区的拥有者。

在这种情况下，消费者可以通过水平扩展的方式同时读取大量的消息。另外，如果一个消费者失败了，那么其他的group成员会自动负载均衡读取之前失败的消费者读取的分区。

### **3.3.4 消费方式** ###

consumer采用pull（拉）模式从broker中读取数据。

push（推）模式很难适应消费速率不同的消费者，因为消息发送速率是由broker决定的。它的目标是尽可能以最快速度传递消息，但是这样很容易造成consumer来不及处理消息，典型的表现就是拒绝服务以及网络拥塞。而pull模式则可以根据consumer的消费能力以适当的速率消费消息。

对于Kafka而言，pull模式更合适，它可简化broker的设计，consumer可自主控制消费消息的速率，同时consumer可以自己控制消费方式——即可批量消费也可逐条消费，同时还能选择不同的提交方式从而实现不同的传输语义。

### **3.3.5 消费者组案例** ###

1）需求：测试同一个消费者组中的消费者，同一时刻只能有一个消费者消费。

2）案例实操

（1）在hadoop01、hadoop02上修改**/mine/kafka\_2.13-2.6.0/config/consumer.properties**配置文件中的group.id属性为任意组名。

vim consumer.properties

group.id=wtlGroup

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 8][]

（2）在hadoop01、hadoop02上分别启动消费者

kafka-console-consumer.sh --bootstrap-server hadoop01:9092,hadoop02:9092,hadoop03:9092 --topic firstTopic --consumer.config /mine/kafka_2.13-2.6.0/config/consumer.properties

（3）在hadoop03上启动生产者

kafka-console-producer.sh --broker-list hadoop01:9092 --topic firstTopic

（4）查看hadoop01和hadoop02的接收者。

**结论：  
同一时刻只有一个消费者接收到消息。**

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70]: /images/20221120/b3f02e46359c44fb842c932fbf96c7f3.png
[http_kafka.apache.org_downloads.html]: http://kafka.apache.org/downloads.html
[2020121915454619.png]: /images/20221120/c3ff13434b7a4414b75efd462687321e.png
[20201219165206857.png]: /images/20221120/9472ec91fd0a451a9ff3894169f36001.png
[20201219165315132.png]: /images/20221120/640669a961124d0fa231f84e3816051b.png
[20201219165243764.png]: /images/20221120/6a6d1bc1ee4f4dcb89da5fd45873c9ad.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 1]: /images/20221120/f6fceba939924571b6f85ad1f2ac00c8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 2]: /images/20221120/7c5457af6c23420888c00d6b67583c30.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 3]: /images/20221120/79bc1fc687534e3ea2692b6d9c516567.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 4]: /images/20221120/6e6f41bc188d43cd837df8bf5a2d4205.png
[20201219180200762.png]: /images/20221120/0e01867e066f4ec4a66873f5ab90cb0a.png
[20201219180336308.png]: /images/20221120/222f7ab0076241168e8a1409ca1f66e3.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 5]: /images/20221120/3838dc6903f94b069dd8ee711c08dd97.png
[20201219182510827.png]: /images/20221120/44e0e4469f704e34bf3b653ff9295d51.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 6]: /images/20221120/7be3f2a2c1a34e7586a7e71008f6976a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 7]: /images/20221120/cbcfcf46c3284515a96bb8f4453a5e72.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3d0bDE5OTI_size_16_color_FFFFFF_t_70 8]: /images/20221120/6cc3cc521adb4c9e88a498edef5dc63d.png