当前位置: 首页 > 知识库问答 >
问题:

Kafka将多个主题放入同一avro文件

闾丘诚
2023-03-14

我正在使用AVRO文件来生成和使用消息,我想知道我是否可以使用相同的AVRO文件来处理多个主题,例如,在生产者中使用不同的“name”属性,在消费者中使用特定的“name”属性。

多谢.斯特凡诺

共有1个答案

慕宏博
2023-03-14

您可以使用一个文件向多个主题发送数据,是的,尽管我不确定为什么会这样做

我会谨慎地将多个主题合并到一个Avro文件中,因为模式必须在该文件的每个主题中匹配

例如,建议您使用汇合模式注册表,而不是发送单独的Avro事件,因为如果您不使用某个注册表,那么您可能会将Avro模式作为每个消息的一部分发送,这将降低主题的吞吐量。然后,寄存器中的Avro模式记录的名称将对应于主题名称

 类似资料:
  • 我们有一个传入的kafka主题,多个基于Avro模式的消息序列化到其中。 我们需要将Avro格式的消息拆分为多个其他kafka主题,基于某个公共模式属性的值。 想了解如何实现它,同时避免在汇流平台上构建中间客户端来进行这种拆分/路由。

  • 我见过,但对于我的(简单的)用例来说,它似乎有些过头了。 我也知道,但我不想仅仅为此编写和维护代码。 我的问题是:有没有一种方法可以用kafka原生工具实现这个主题调度,而不用自己写一个Kafka-Consumer/Producer?

  • 我们有一个Kafka主题,有源源不断的数据。为了处理它,我们有一个无状态的Flink管道,它使用该主题并写入另一个主题。 我们是不是漏掉了什么?我们误会什么了吗?有没有更好的解决办法? 谢了!

  • 在构建Kafka Streams拓扑时,可以通过两种不同的方式对多个主题的读取进行建模: 读取具有相同源节点的所有主题。 选项1相对于选项2是否有相对优势,反之亦然?所有主题都包含相同类型的数据,并具有相同的数据处理逻辑。

  • 我正在使用Spring Cloud Stream Kafka Binder。我有以下Kafka活页夹函数。 在yml中,我有: 如果我想从同一个功能向两个不同的主题发送数据,我需要做什么?

  • 我正在尝试以avro格式对kafka消息进行解密我使用了以下代码:https://github.com/ivangfr/springboot-kafka-debezium-ksql/blob/master/kafka-research-consumer/src/main/java/com/mycompany/kafkaResearchconsumer/kafka/reviewsconsumerco