使用JMX-exporter-centos 7配置kafka

Question

我想启用 kafka 监控，我从单节点部署开始作为测试。我正在按照 https://alex.dzyoba.com/blog/jmx-exporter/ 中的步骤进行操作

我尝试了以下步骤；检查jmx导出器HTTP服务器的最后一个命令报告为空。我相信这就是我没有看到Kafka指标的原因。（更多详情请参见下文）

wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.6/jmx_prometheus_javaagent-0.6.jar
wget https://raw.githubusercontent.com/prometheus/jmx_exporter/master/example_configs/kafka-0-8-2.yml   
export KAFKA_OPTS='-javaagent:/opt/jmx-exporter/jmx_prometheus_javaagent-0.6.jar=7071:/etc/jmx-exporter/kafka-0-8-2.yml' 
/opt/kafka_2.11-0.10.1.0/bin/kafka-server-start.sh /opt/kafka_2.11-0.10.1.0/conf/server.properties
netstat -plntu | grep 7071

Kafka代理登录控制台没有任何ERROR消息。

我让Prometheus在一个容器中运行，http://IP:9090/metrics显示了一堆指标。当我搜索“Kafka”时，它返回如下

# TYPE net_conntrack_dialer_conn_attempted_total counter
net_conntrack_dialer_conn_attempted_total{dialer_name="kafka"} 79
# TYPE net_conntrack_dialer_conn_closed_total counter
net_conntrack_dialer_conn_closed_total{dialer_name="kafka"} 0
net_conntrack_dialer_conn_established_total{dialer_name="kafka"} 0
# TYPE net_conntrack_dialer_conn_failed_total counter
net_conntrack_dialer_conn_failed_total{dialer_name="kafka",reason="refused"} 79
net_conntrack_dialer_conn_failed_total{dialer_name="kafka",reason="resolution"} 0
net_conntrack_dialer_conn_failed_total{dialer_name="kafka",reason="timeout"} 0
net_conntrack_dialer_conn_failed_total{dialer_name="kafka",reason="unknown"} 79

# TYPE prometheus_sd_discovered_targets gauge
prometheus_sd_discovered_targets{config="kafka",name="scrape"} 1
# HELP prometheus_target_sync_length_seconds Actual interval to sync the scrape pool.
# TYPE prometheus_target_sync_length_seconds summary
prometheus_target_sync_length_seconds{scrape_job="kafka",quantile="0.01"} NaN
prometheus_target_sync_length_seconds{scrape_job="kafka",quantile="0.05"} NaN
prometheus_target_sync_length_seconds{scrape_job="kafka",quantile="0.5"} NaN
prometheus_target_sync_length_seconds{scrape_job="kafka",quantile="0.9"} NaN
prometheus_target_sync_length_seconds{scrape_job="kafka",quantile="0.99"} NaN
prometheus_target_sync_length_seconds_sum{scrape_job="kafka"} 0.000198245
prometheus_target_sync_length_seconds_count{scrape_job="kafka"} 1

我的猜测是普罗米修斯没有在端口 7071 上获得任何指标;这与之前发现的 JMX 服务器在端口 7071 上没有响应一致。

你能帮我使用 JMX 导出器和普罗米修斯启用 kafka 监控吗？

Answer 1

我让普罗米修斯在容器中运行

你需要配置Prometheus来抓取你的外部局域网IP，因为你是在一个容器之外运行Kafka。

您可以在这行看到，您当前的设置正在拒绝连接

net_conntrack_dialer_conn_failed_total{dialer_name="kafka"，原因="拒绝"} 79

您应该在主机上运行Prometheus并抓取localhost:7071

或者，如果您想让普罗米修斯发现Kafka:7071，请在容器中运行Kafka