无法从动物园管理员检索主题/组/分区的 kafka 偏移量

Question

我们在单独的服务器上运行 zookeeper 3.3 和 kafka 0.8。我们正在使用 HL 消费者，它们按预期访问 kafka 队列中的数据，重新启动时，他们会从上次中断的地方继续。因此，消费者的行为符合预期。问题是当我们使用 zkCli.sh 时，我们无法看到动物园管理员中的偏移量。目前，消费者设置为仅在一个分区中为主题运行。CMD “ls /consumer/mygrpid/offsets/mytopic/0” 返回 []。
与 “ls /consumer/mygrpid/owners/mytopic” 相同，它返回 []。

因为当使用者停止并再次重新启动时，使用者的行为符合预期（即，它从上次运行时停止的偏移量中拾取。 我们可以通过查看日志来判断这一点，该日志给出了它开始的偏移量以及每次提交时）我们知道 zookeeper 应该在某个地方为消费者保存promise的偏移量。我的理解是动物园管理员跟踪HL消费者，而不是kafka经纪人。然而，应该显示偏移量的“ls”命令反而显示空。

我应该在不同的地方访问偏移量吗？（最终，我需要一个脚本来报告所有消费者的补偿。）

非常感谢任何帮助或建议。

Answer 1

你应该使用 get 而不是 ls。ls 获取子节点，在您的情况下 /consumer/mygrpid/offsets/mytopic/0 没有子节点。但它有一个值，所以运行 get /consumer/mygrpid/offsets/mytopic/0 应该显示如下内容：

47
cZxid = 0x568
ctime = Tue Feb 03 19:08:10 EET 2015
mZxid = 0x568
mtime = Tue Feb 03 19:08:10 EET 2015
pZxid = 0x568
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 2
numChildren = 0

其中47是偏移值。