1在这里我们先来梳理一下consumeGroup的相关知识
1、首先，我们会给每个consume设置groupId，对于相同groupId且订阅相同topic的consume，会组成consumeGroup，如图一所示
2、对于Server端的topic来说，会有partition这个概念，如图二所示
图二
3、现在我们有多个consume及多个partition，到底由哪个consume来消费哪个partition呢？就由consume启动时的分区分配策略来决定。
- 如果consume数量小于partition的数量，则一个consume有可能消费多个分区，如图三所示
- 如果consume数量大于partition的数量，则会有consume线程空跑，如图四所示
4、kafka的内置topic：consumer_offsets专门记录消费位点信息，既然是内置topic，那自然也会有partition及partition leader的概念，对于同一个groupId的消费位点都会记录在同一个partition中，在这篇文章中findCoordinator即是找到该groupId对应的partition的leader节点，我们知道这个节点才能将位移信息提交到这里保存，如果该partition还有其他副本，则该节点还会与其他副本同步位移信息。与该节点交互都是由GroupCoordinator完成的。
在这里插入图片描述
2findCoordinator流程展示
在这里插入图片描述
3客户端源码分析
这里还是放一下findCoordinator的代码，看其他consume的代码就发现客户端跟kafkaServer通信的格式大多是这样的，如果通信一次发现该GroupCoordinator的信息还未获取到则继续重试，直到超时，这里的超时时间即为poll时传入的超时时间，这个时间设置贯穿了整个consume的运行代码。
protectedsynchronizedbooleanensureCoordinatorReady(final Timer timer) {
//如果还未加入group则与group通信
if (!coordinatorUnknown())
returntrue;
do {
if (findCoordinatorException != null && !(findCoordinatorException instanceof RetriableException)) {
final RuntimeException fatalException = findCoordinatorException;
findCoordinatorException = null;
throw fatalException;
}
final RequestFuture<Void> future = lookupCoordinator();
client.poll(future, timer);
//如果还没回调完成则说明是超时的
if (!future.isDone()) {
// ran out of time
break;
}
if (future.failed()) {
if (future.isRetriable()) {
log.debug("Coordinator discovery failed, refreshing metadata");
client.awaitMetadataUpdate(timer);
} else
throw future.exception();
//获取group的信息之后client会与group对应的节点建立连接，如果不可用则还会重试
} elseif (coordinator != null && client.isUnavailable(coordinator)) {
// we found the coordinator, but the connection has failed, so mark
// it dead and backoff before retrying discovery
markCoordinatorUnknown();
timer.sleep(rebalanceConfig.retryBackoffMs);
}
//如果与group通信成功则会跳出循环
} while (coordinatorUnknown() && timer.notExpired());
return !coordinatorUnknown();
}
这里还有一点，跟踪代码可以看到以下代码在每次check以及与Server端通信完成之后都会有一样的逻辑，可以仔细思考一下，coordinator即获取到的group节点对象，client.isUnavailable(coordinator)是在与group建立连接，每次判断coordinator不为空且client与group连接失败，则将coordinator置空，为什么会这样呢？很有可能是请求到group的信息之后发现该节点已下线或者不可用，此时服务端很有可能也在进行选举，所以我们需要将coordinator清空，待服务端选举完成后再次通信。
protectedsynchronized Node checkAndGetCoordinator() {
if (coordinator != null && client.isUnavailable(coordinator)) {
markCoordinatorUnknown(true);
returnnull;
}
returnthis.coordinator;
}
org.apache.kafka.clients.consumer.internals.AbstractCoordinator#lookupCoordinator
这段代码有个亮点就是先寻找的负载最小节点，然后与该节点通信获取group节点的信息。
protectedsynchronized RequestFuture<Void> lookupCoordinator() {
if (findCoordinatorFuture == null) {
// find a node to ask about the coordinator
//与最小负载的node通信
Node node = this.client.leastLoadedNode();
if (node == null) {
log.debug("No broker available to send FindCoordinator request");
return RequestFuture.noBrokersAvailable();
} else {
findCoordinatorFuture = sendFindCoordinatorRequest(node);
// remember the exception even after the future is cleared so that
// it can still be thrown by the ensureCoordinatorReady caller
findCoordinatorFuture.addListener(new RequestFutureListener<Void>() {
@Override
publicvoidonSuccess(Void value) {} // do nothing
@Override
publicvoidonFailure(RuntimeException e) {
findCoordinatorException = e;
}
});
}
}
return findCoordinatorFuture;
}
org.apache.kafka.clients.NetworkClient#leastLoadedNode
我们先来看看是如何寻找负载最小节点的，这里代码还是挺讲究的，首先就是取随机数，防止每次都从第一个节点连接，如果判断没有在途的request则直接返回该节点，否则取在途request最小的节点，如果该节点不存在，则依次取连接的节点、需要重试的节点，如果找到不为null的节点则返回该节点，否则返回null。
public Node leastLoadedNode(long now) {
List<Node> nodes = this.metadataUpdater.fetchNodes();
if (nodes.isEmpty())
thrownew IllegalStateException("There are no nodes in the Kafka cluster");
int inflight = Integer.MAX_VALUE;
Node foundConnecting = null;
Node foundCanConnect = null;
Node foundReady = null;
//随机取一个节点
int offset = this.randOffset.nextInt(nodes.size());
for (int i = 0; i < nodes.size(); i++) {
int idx = (offset + i) % nodes.size();
Node node = nodes.get(idx);
//如果该节点是可连接的，且selector空闲，且发送队列空闲则可以发送请求
if (canSendRequest(node.idString(), now)) {
//inFlightRequests记录了已发送请求但还未收到response的request，这里判定如果该节点没有这种数据则直接作为最小负载节点返回
int currInflight = this.inFlightRequests.count(node.idString());
if (currInflight == 0) {
// if we find an established connection with no in-flight requests we can stop right away
log.trace("Found least loaded node {} connected with no in-flight requests", node);
return node;
//否则取inFlightRequests中最小count的节点作为最小负载节点
} elseif (currInflight < inflight) {
// otherwise if this is the best we have found so far, record that
inflight = currInflight;
foundReady = node;
}
} elseif (connectionStates.isPreparingConnection(node.idString())) {
foundConnecting = node;
} elseif (canConnect(node, now)) {
//如果该节点未被记录或者断连之后超过重试时间，则允许设置该节点
foundCanConnect = node;
} else {
log.trace("Removing node {} from least loaded node selection since it is neither ready " +
"for sending or connecting", node);
}
}
// We prefer established connections if possible. Otherwise, we will wait for connections
// which are being established before connecting to new nodes.
//优先取状态良好的节点
if (foundReady != null) {
log.trace("Found least loaded node {} with {} inflight requests", foundReady, inflight);
return foundReady;
} elseif (foundConnecting != null) {
log.trace("Found least loaded connecting node {}", foundConnecting);
return foundConnecting;
} elseif (foundCanConnect != null) {
log.trace("Found least loaded node {} with no active connection", foundCanConnect);
return foundCanConnect;
} else {
log.trace("Least loaded node selection failed to find an available node");
returnnull;
}
}
拆解FindCoordinatorRequest
通过下图我们来看看发送了哪些数据，key_type有两种枚举，一种是GROUP，另一种是TRANSACTION，如果type为GROUP的话那key就是groupId
在这里插入图片描述
4服务端源码分析
kafka.server.KafkaApis#handleFindCoordinatorRequest
服务端还是通过KafkaApi来处理请求，代码也比较简单。
defhandleFindCoordinatorRequest(request: RequestChannel.Request): Unit = {
val findCoordinatorRequest = request.body[FindCoordinatorRequest]
//校验数据
//……省略部分代码
// get metadata (and create the topic if necessary)
val (partition, topicMetadata) = CoordinatorType.forId(findCoordinatorRequest.data.keyType) match {
caseCoordinatorType.GROUP =>
//4.1 找到对应发分区
val partition = groupCoordinator.partitionFor(findCoordinatorRequest.data.key)
//4.2 获取对应的元数据
val metadata = getOrCreateInternalTopic(GROUP_METADATA_TOPIC_NAME, request.context.listenerName)
(partition, metadata)
caseCoordinatorType.TRANSACTION =>
val partition = txnCoordinator.partitionFor(findCoordinatorRequest.data.key)
val metadata = getOrCreateInternalTopic(TRANSACTION_STATE_TOPIC_NAME, request.context.listenerName)
(partition, metadata)
case _ =>
thrownewInvalidRequestException("Unknown coordinator type in FindCoordinator request")
}
//组装返回参数
//……省略部分代码
}
}
kafka.coordinator.group.GroupMetadataManager#partitionFor
我们知道consume消费后对应的位点是保存在kafka的内部名为"__consumer_offsets"的内置topic中，内置topic初始化时由offsets.topic.num.partitions 参数来决定分区数，默认值是50，相同consumeGroup的offset最终会保存在其中一个分区中，而保存在哪个分区就由下面这段代码来决定，可以看到逻辑很简单，就是取groupId的hashCode，然后对总的分区数取模。比如groupId为"consume_group"，最终就会在34号分区保存位点。
defpartitionFor(groupId: String): Int = Utils.abs(groupId.hashCode) % groupMetadataTopicPartitionCount
kafka.server.KafkaApis#getOrCreateInternalTopic
这里是先从当前node的元数据缓存中拿到对应topic的数据，如果没有，则创建。从这段代码也可以猜想kafka内置topic的创建原理，是一种懒加载的思想，当第一个consume接入之后才会创建对应topicPartition文件。
privatedefgetOrCreateInternalTopic(topic: String, listenerName: ListenerName): MetadataResponse.TopicMetadata = {
val topicMetadata = metadataCache.getTopicMetadata(Set(topic), listenerName)
topicMetadata.headOption.getOrElse(createInternalTopic(topic))
}
这里的topicMetadata就是对应入参topic返回类似列表的对象，因为入参只有一个topic，所以直接取第一个数据，数据结构见下图，可以更直观的理解返回参数。
在这里插入图片描述
在这里插入图片描述
kafka.server.KafkaApis#createTopic
Topic创建的流程如下图所示，详情请看 Topic创建流程源码分析
拆解FindCoordinatorResponse
通过下图我们来看看返回了哪些数据，可以看到前面取了很多数据，最终拼到返回参数里面的只有leader所在的节点信息
在这里插入图片描述
5总结
这块代码本身不是很复杂，主要是有一些细节需要考虑，通过仔细思量这些细节对我们今后分析consume异常会大有好处。流程总结如下 1、寻找最小负载节点信息 2、向最小负载节点发送FindCoordinatorRequest 3、最小负载节点处理该请求。
- 首先找到该groupId对应的分区
- 通过内存中缓存的metaData获取该分区的信息，如果不存在则创建topic
- 返回查找到的分区leader信息
👇🏻 扫描 下方 关注公众号 参与每周福利👇🏻
