春云流Kafka流DLQ

Question

我用的是Apache Kafka 2.7.0和Spring Cloud Stream Kafka Streams。

在我的Spring Cloud Stream (Kafka Streams)应用程序中，我已经将我的application.yml配置为当输入主题中的消息出现反序列化错误时使用sendToDlq机制:

spring:
  cloud:
    stream:
      function:
        definition: processor      
      bindings:         
        processor-in-0:
          destination: input-topic
          consumer:
            dlqName: input-topic-dlq
        processor-out-0:
          destination: output-topic       
      kafka:
        streams:
            binder:
              deserialization-exception-handler: sendToDlq
            configuration:
              metrics.recording.level: DEBUG
            brokers:
              - localhost:9092

我启动了我的应用程序，但我看不到这个主题存在。文档指出，如果 DLQ 主题不存在，则将创建该主题。

如果我尝试从DLQ主题消费，我会收到如下错误：

kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic input-topic-dlq --property print.value=true --property print.key=true --from-beginning
[2021-03-19 10:17:09,936] WARN [Consumer clientId=consumer-console-consumer-85295-1, groupId=console-consumer-85295] Error while fetching metadata with correlation id 2 : {input-topic-dlq=LEADER_NOT_AVAILABLE} (org.apache.kafka.clients.NetworkClient)

此时，当我查询Zookeeper ls/brokers/topics时，我看到创建的Topic。

现在，我尝试将非JSON消息发布到输入主题（我的默认反序列化器是JSON）。

但我看不到任何消息中的ininting-Topite-dlq主题创建。

奇怪的是，我可以在默认的“error.input topic dlq.appId”主题中看到消息。

我做错了什么吗？

Answer 1

我设法弄清楚了。Spring Cloud Stream Kafka Streams Binder的当前文档中似乎有一个拼写错误。

绑定的目标应该在spring.cloud.streams上。绑定级别类似于您已经拥有的，但特定于实现的使用者属性应该在spring.cloud.streams.kafka.streams上。绑定级别。

因此，您的配置应如下所示：

spring:
  cloud:
    stream:
      function:
        definition: processor      
      bindings:         
        processor-in-0:
          destination: input-topic
        processor-out-0:
          destination: output-topic       
      kafka:
        streams:
            binder:
              deserialization-exception-handler: sendToDlq
            bindings:
              processor-in-0:
                consumer:
                  dlqName: input-topic-dlq
            configuration:
              metrics.recording.level: DEBUG
            brokers:
              - localhost:9092