我目前正在努力在3节点集群上部署Kafka连接集群。我的集群是一个设置了kerberos的Cloud dera(5. x版)。
在尝试 Kafka connect 之前,我设法设置了一个用于生产者和消费者控制台实现的主题。我认为这可能与过去的工作有关。
我遇到了这个错误:
错误 herder 工作线程中未捕获的异常,退出:(org.apache.kafka.connect.runtime.distributed.DistributedHerder:228) org.apache.kafka.common.errors.TimeoutException:在确定分区连接偏移量-0 的位置之前,60000 毫秒的超时已过期
在寻找类似的问题之后,我发现有些人设法通过设置主题连接状态
、连接偏移、连接配置
来使其工作。
我喜欢的:
bin/kafka-topics.sh --create --topic connect-status --zookeeper address:2181 --replication-factor 1 --partitions 1
bin/kafka-topics.sh --create --topic connect-offsets --zookeeper address:2181 --replication-factor 1 --partitions 1
bin/kafka-topics.sh --create --topic connect-configs --zookeeper address:2181 --replication-factor 1 --partitions 1
它对我来说不起作用,而且即使它会起作用,我也有点惊讶,用<code>1</code>的<code>分区设置这些主题在生产中是可以接受的,这不可能是最终的解决方案吗?
我能怎么做呢?
编辑:所以我只是在分布式模式下再次运行kafka connect,而没有尝试到达/connectors路径,但它还是崩溃了。
参考文献:
无法在分布式模式下运行Kafka Connect-尝试创建/查找主题“连接偏移”时出错
https://github.com/confluentinc/kafka-connect-jdbc/issues/189
也许是CDH团队的一些黑客,这些主题只有一个分区。但是,如果将 --replication-factor
设置为 3
,则当领导者发生故障时,不会丢失连接器的 Kafka Connect 配置/偏移/状态。
然而,当我连接到路由器配置页面使用浏览器的互联网IP地址显示在那里。如何在我的java应用程序中获得互联网IP地址?
但是,当我使用浏览器连接到路由器配置页面时,internet ip地址显示在那里。如何在java应用程序中获取internet ip地址?
我将kafka-connect docker映像()部署到ECS/fargate,为我的ECS服务分配了一个安全组,该安全组允许传入的zooper keeper和kafka bootstrap服务器通信量(纯文本和TLS),并分配了一个IAM角色,该角色允许我的ECS任务对MSK集群运行kafka操作,但connect集群在尝试从MSK集群获取代理列表时仍会超时。 在AWS中,kafka conn
如何使用react router v4获取当前路径? 我尝试了以下方法,但没有成功: 错误: 这是我的Routes.js文件: