当前位置: 首页 > 知识库问答 >
问题:

Kafka sink连接器:即使在重新启动后也没有分配任务

宁弘亮
2023-03-14

我在一组Docker容器中使用Confluent 3.2,其中一个容器运行kafka connect worker。

出于我尚不清楚的原因,我的四个连接器中的两个——具体来说,是hpgram sl的MongoDB接收器连接器——停止工作。我能够识别出主要问题:连接器没有分配任何任务,这可以通过调用GET /connectors/{my_connector}/状态来看出。另外两个连接器(相同类型)没有受到影响,并且正在愉快地产生输出。

我尝试了三种不同的方法通过 REST API 让我的连接器再次运行:

    < li >暂停和恢复连接器 < li >重新启动连接器 < li >使用相同的配置以相同的名称删除和创建连接器

这些方法都不起作用。我终于通过以下方式让我的连接器再次工作:

    删除连接器并使用
  • 其他名称创建连接器,例如my_connector_v2而不是my_connector

这是怎么回事?为什么我不能重新启动现有的连接器并让它开始一个实际的任务?在kafka-connect worker上或者在Kafka brokers上的一些kafka-connect相关主题中是否有任何陈旧的数据需要清理?

我已经在特定连接器的 github 存储库上提出了一个问题,但我觉得这实际上可能是与 kafka-connect 的内在相关的一般错误。有什么想法吗?

共有1个答案

邹博明
2023-03-14

我遇到过这个问题。如果用于启动 SinkTask 或 SourceTask 的资源较少,则可能会发生这种情况。

分配给工作人员的内存可能会减少一些时间。默认情况下,工作线程分配为250MB。请增加这个。下面是为以分布式模式运行的工作程序分配2GB内存的示例。

KAFKA _ HEAP _ OPTS = "-Xmx2G " sh$KAFKA _ SERVICE _ HOME/connect-distributed$KAFKA _ CONFIG _ HOME/connect-avro-distributed . properties

 类似资料:
  • 我登录到IMAP服务器: 然后我使用IMAP IDLE在邮件到达时提取邮件。由于imap服务器连接在30分钟后自动断开,我每25分钟重新连接一次imap服务器。 所有这些工作正常,直到它持续超过48小时。当我这样做时,我得到以下错误imap.logout 错误消息: imap对象: #,raw\u data=“*OK Gimap ready for requests from 54.242.66.

  • 我有一个Spring Boot(1.5.17)Web应用程序,其Tomcat JDBC连接池(8.5.34)配置如下: 现在,如果我重新启动数据库服务器(SQL server),我会得到exception,连接池未恢复。 那么我做错了什么?

  • 问题内容: 我有一个RMI服务器和一个桌面RMI客户端。重新启动服务器时,客户端出现错误。是否可以在不重新启动客户端的情况下重新启动RMI连接? [编辑]这是堆栈跟踪: 问题答案: 服务器终止后,您将收到一个ConnectException。之后,您可以使用Naming.lookup获取新的服务器对象。

  • 我正在使用单节点独立zookeeper运行一个带有zookeeper发现SPI机制的单节点Apache Ignite服务器。 我正在尝试使用下面的发现SPI配置从客户端应用程序连接Ignite服务器,如下所示 请提供在zookeeper重新启动后客户端自动重新连接的配置。

  • 我有div,可以拖放到绘图区域。可以使用鼠标从源endpoint拖放到目标endpoint手动连接这些div。在这样创建的连接上,连接被分离,但endpoint保留,删除的连接可以通过上述相同的手动过程重新创建。现在,我还将以json格式的连接节点流程图形式的绘图保存到磁盘文件中。在加载文件时,流程图会完美地显示所有连接和节点。现在我在点击一个节点时删除一个连接,它就可以工作了。但是现在我不能再次

  • 我已经实现了这样的接收器(在清单文件中) 如果电话的状态改变,则调用记录器广播接收器。一切都很好。但是,如果我重新启动设备,接收器永远不会被调用,直到我运行我的应用程序。 我需要在启动后注册(不调用)这个接收器。 许多感谢, [编辑] 我通过向清单文件添加以下接收者解决了这个问题 不过,我没有在java代码中注册RecorderBroadcastReceiver。我只加了上面的接收器。这意味着从应