当前位置: 首页 > 知识库问答 >
问题:

当我获得 /connectors路由时,Kafka连接REST Api崩溃

辛锦
2023-03-14

我目前正在努力在3节点集群上部署Kafka连接集群。我的集群是一个设置了kerberos的Cloud dera(5. x版)。

在尝试 Kafka connect 之前,我设法设置了一个用于生产者和消费者控制台实现的主题。我认为这可能与过去的工作有关。

我遇到了这个错误:

错误 herder 工作线程中未捕获的异常,退出:(org.apache.kafka.connect.runtime.distributed.DistributedHerder:228) org.apache.kafka.common.errors.TimeoutException:在确定分区连接偏移量-0 的位置之前,60000 毫秒的超时已过期

在寻找类似的问题之后,我发现有些人设法通过设置主题连接状态、连接偏移、连接配置来使其工作

我喜欢的:

bin/kafka-topics.sh --create --topic connect-status --zookeeper address:2181 --replication-factor 1 --partitions 1

bin/kafka-topics.sh --create --topic connect-offsets --zookeeper address:2181 --replication-factor 1 --partitions 1

bin/kafka-topics.sh --create --topic connect-configs --zookeeper address:2181 --replication-factor 1 --partitions 1

它对我来说不起作用,而且即使它会起作用,我也有点惊讶,用<code>1</code>的<code>分区设置这些主题在生产中是可以接受的,这不可能是最终的解决方案吗?

我能怎么做呢?

编辑:所以我只是在分布式模式下再次运行kafka connect,而没有尝试到达/connectors路径,但它还是崩溃了。

参考文献:

无法在分布式模式下运行Kafka Connect-尝试创建/查找主题“连接偏移”时出错

https://github.com/confluentinc/kafka-connect-jdbc/issues/189

共有1个答案

陆畅
2023-03-14

也许是CDH团队的一些黑客,这些主题只有一个分区。但是,如果将 --replication-factor 设置为 3,则当领导者发生故障时,不会丢失连接器的 Kafka Connect 配置/偏移/状态。

 类似资料: