当前位置: 首页 > 知识库问答 >
问题:

清除Kafka消费群体中的Kafka成员

史洛城
2023-03-14

我有一个问题,来自一个消费群体的许多Kafka客户端没有正确关闭,因此Kafka集群认为它们仍然是连接的。因此,我无法使用新版本的客户端连接到消费者组。会卡在再平衡这一步。

根据文档,应在< code>session.timeout.ms或maximum < code > group . max . session . time out . ms 之后删除它们。起初我试图将< code>session.timeout.ms设置为< code>30000毫秒(30秒),但它并没有在Kafka的启动中列出。< code > group . max . session . time out . ms 在该时间点被设置为300000毫秒(5分钟)。30秒后消费者没有被删除。

之后,我尝试将group.max.session.timeout.ms减少到30000毫秒(30秒)并重新启动Kafka。然而,所有客户端仍然停留在消费者组中。

现在,已经过了大约2个小时,客户仍然属于消费者群体。

我尝试删除消费者组:

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 \
    --delete --group GroupName

这给了我:

* Group 'GroupName' could not be deleted due to: NON_EMPTY_GROUP

不幸的是,似乎没有--force标志。

接下来,我尝试使用以下命令列出消费者组的所有成员:

bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 \
    --members --group GroupName --describe

这给了我 40-50 个使用者组成员(所有这些成员都必须处于非活动状态,因为唯一处于活动状态的使用者已停止)。

有什么方法可以让Kafka从这个组中清除所有消费者,或者强制它删除整个消费者组?

共有2个答案

柳联
2023-03-14

我不得不删除动物园管理员和经纪人日志

  1. 停止动物园管理员
  2. 止损经纪商
  3. 删除动物园管理员和Kafka的日志(这些日志位于配置/动物园管理员属性配置/服务器属性中)
  4. 启动动物园管理员
  5. 启动代理
丌官翰采
2023-03-14

    < li >组“GroupName”无法删除,原因是:NON_EMPTY_GROUP

这意味着使用者组仍在主动连接到服务器,在删除使用者组之前,您必须首先终止该进程。这对我有用。

ps -ef | grep GroupName | grep -v grep | awk '{print $2}' | xargs kill
bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 \
--delete --group GroupName
 类似资料:
  • 我是Kafka的新手,正在学习Kafka内部知识。请根据需要随时更正我的理解。。 这是我的实时场景..感谢所有的回复: 我有一个接收数据文件的实时FTP服务器…比如索赔文件。 我将把这些数据发布到一个主题中.让我们把这个主题称为claims_topic(2个分区). 我需要订阅这个claims_topic,阅读消息并将它们写入Oracle和Postgres表。让我们将oracle表称为Otable

  • 我在使用Kafka时遇到了一些问题。非常感谢任何帮助!我在docker swell中分别有zookeeper和kafka集群3个节点。您可以在下面看到Kafka代理配置。 我的情况: < li > 20x位制片人不断向Kafka主题传达信息 < li>1x消费者读取和记录消息 < li >终止kafka节点(docker容器停止),因此现在群集有2个Kafka代理节点(第3个节点将自动启动并加入群

  • 我正在阅读Kafka常见问题解答,他们如下所示。 •每个分区不会被每个使用者组中的多个使用者线程/进程使用。这允许每个进程以单线程方式使用,以保证分区内的使用者的顺序(如果我们将有序消息分割成一个分区并将它们传递给多个使用者,即使这些消息是按顺序存储的,它们有时也会被无序地处理)。 有没有可能,

  • 我们希望获得Kafka消费群体指标(例如,节流和字节率)。 我们已经使用以下工具完成了此操作: Kafka消费者Java应用程序的JMX Mbean CLI实用程序: bin/kafka-consumer-groups.sh--描述--组group_name--bootstrap-serverlocalhost: port . 问题:这可以通过使用一些Java库以编程方式完成吗? 到目前为止,我们

  • 我将Kafka2.9.2-0.8.1.1与zookeeper 3.4.6一起使用。 是否有一个实用程序可以自动从Zookeeper中删除一个消费者组?或者我可以删除zookeeper中/consumers/[group_id]下的所有内容吗?如果是后者,我还缺少什么吗&这可以用一个动态系统来完成吗? 更新:从kafka 2.3.0版本开始,有一个新的实用程序: 相关文档:http://kafka.

  • 我们在Kubernetes中基于<code>gcr.io/google_containers/Kubernetes-Kafka:1.0-10.2.1</code>docker映像运行一个Kafka集群,使用<code>gcr.io/google_containers/Kubernetes-zookeeper:1.0-3.4.10</code>,使用三个Kafka和zookeer实例。 我们有几个不