GaryLee's Blog
Kafka中Partition和Consumer数量应该怎么分配? Kafka中Partition和Consumer数量应该怎么分配?
一、背景Kafka中各个概念关系如下: 一个Topic有多个Partition 一个Consumer Group有多个Consumer 一个Consumer可以监听多个Partition 二、Kafka中Partition和Consum
2023-10-02
Kafka如何保证顺序消费? Kafka如何保证顺序消费?
一、背景Kafka中一个topic有多个partition,在同一个partition中的消息是有序的。为什么呢?因为Kafka会将消息**追加写****到指定partition的日志文件中,所以消费消息的话也是按offset顺序消费的。
2023-09-14
Kafka如何保证数据不丢失? Kafka如何保证数据不丢失?
一、Kafka中数据是怎么传输的?Kafka中数据传输分为三步: Producer端将消息发送给Broker Broker端将消息进行同步并持久化 Consumer端从Broker将消息拉取并消费 二、Kafka如何保证数据不丢失?因为
2023-09-14
Kafka如何避免重复消费? Kafka如何避免重复消费?
一、为什么会出现重复消费的问题? 一个消费者组有多个消费者,每条消息只会被某个消费者的某个分区消费,如果没有正常提交offset,就会导致后续重复拉取到该消息而重复消费 超过max.poll.interval.ms时间还没消费完就会触发重平
2023-09-14
Kafka的副本机制有什么用? Kafka的副本机制有什么用?
一、什么是Kafka的副本机制?Kafka的副本机制,也就是备份机制,指在分布式集群中每个节点都同步了相同的数据备份。 二、Kafka的副本机制有什么用?Kafka的副本机制是保证消息可靠性的重要手段之一,它可以: 提高可用性:每个top
2023-09-14
什么是Kafka的重平衡机制? 什么是Kafka的重平衡机制?
一、什么是Kafka的重平衡机制?Kafka的重平衡(Rebalance)机制指的是消费者组(Consumer Group)新增或删除消费者(Consumer)时,Kafka集群会重新分配topic分区给各个消费者,以保证每个消费者消费的分
2023-09-13
什么是消息队列? 什么是消息队列?
一、什么是消息队列?消息队列(Message Queue),简称MQ,是一种应用间的通信方式,主要由三部分组成: 生产者(Producer):负责消息发送 代理(Broker):负责消息存储 消费者(Consumer):负责消息消费 二
2023-09-13
Kafka如何解决消息积压问题? Kafka如何解决消息积压问题?
一、Kafka如何解决消息积压问题?首先分析一下消息积压问题的原因,如果不是系统BUG导致的,那就需要优化消费端的逻辑,来提高消费速率。 如果是系统BUG导致的,那么需要先修复系统BUG,然后再做临时扩容来消费大量的积压消息,具体步骤如下:
2023-09-06
Kafka面试题 Kafka面试题
一、Kafka面试题1、Kafka的副本机制有什么用?Kafka的副本机制是保证消息可靠性的重要手段之一,它可以: 提高可用性:Kafka每个topic有多个分区,每个分区有多个副本,但其中只能有一个是leader副本,其余的都是foll
2023-07-12
Kafka使用笔记 Kafka使用笔记
常见问题1.本地启动报错”Timeout expired while fetching topic metadata”临时方案:如果不需要测试kafka可以临时注释掉listener的@Component或者@KafkaListener,使
2021-11-07