问个问题。在K8S环境中,FluentBit输出到Kafka,可以建立连接并创建主题,但会生成数据报告错误。
[error] [output:kafka:kafka.0] fluent-bit#producer-1: [thrd:data39:9092/176]: data39:9092/176: Failed to resolve 'data39:9092': Name or service not known (after 197ms in state CONNECT)
我尝试了 FluentBit1.5 和 1.6,但遇到了同样的问题。我只更改了 FluentBit 配置文件中的 Kafka 代理和主题,其他所有内容都是默认配置。我检查了/etc/主人,没有问题。
Kafka 配置文件设置为:侦听器 = 纯文本://0.0.0.0:9092 播发.侦听器= 纯文本://x.x.x.x:9092
此外,ElasticSearch的FluentBit输出是正常的。
请大家帮忙,非常感谢
将此答案作为社区wiki发布为此问题的原始海报,为他在评论中的问题提供了解决方案。
请随意编辑和改进此答案。
它的工作原理。在流利-bit-ds.yaml 中 - 装载路径: /etc/主机名称: 主机读取仅: true
这些更改很可能是从此站点对流利位 ds.yaml
进行的:
其他资源:
我正在使用Debezium作为CDC工具从MySql流式传输数据。在将Debezium MySQL连接器安装到ConFluent OSS集群后,我试图捕获MySQLbin_log变化为Kafka主题。当我创建连接器时,在获取数据库的快照后,我会留下一系列连续的错误。 我检查了MySql bin_日志是否打开,并尝试用不同的序列化程序重新启动模式注册表和连接器。但我也犯了同样的错误。 错误日志显示:
使用命令时: /usr/local/kafka/bin/kafka-topics.sh--创建--zookeeper localhost:2181--复制-因子1--分区1--主题测试 提前道谢。
因此,我想知道做这件事的步骤。 我的理想是由kafka Connect创建与表相对应的主题,然后再由我声明(使用KSQL)创建视图。 虽然我在这里描述的一开始听起来是可行的,但我对数据有一个问题主题中数据的结构(模式)。问题似乎是,我可能必须做一个额外的步骤,但不知道它是否可以避免或实际上是必要的。
我们已经在库伯内特斯中部署了自定义合流Kafka连接器作为状态集,它从Azure KeyVault挂载机密。这些机密包含db用户名和密码 机密作为环境变量被加载到容器中。基于< code > kubernetes-ingress-controller 路径的路由用于暴露restendpoint。 到目前为止,我们的团队在通过 Postman 创建连接器时无法使用环境变量。 连接器配置: (1) 和
我有自己的Spring Cloud数据流处理器,里面有Python,我使用这个示例作为指导:https://dataflow.Spring.io/docs/recipes/polyglot/processor/。然后我想缩放并创建其中的三个处理器,因此使用创建了3个Python内部的POD。我稍微修改了示例中的一段代码:当我创建一个Kafka消费者时,我也会传递一个组id,因此消息应该是负载平衡的
我有一个微服务,它使用 OracleDB 在表中发布系统更改。表包含一个,其中包含事件类型的名称。 JDBC Source Kafka Connect可能会接受表更改,并在KAFKA-TOPIC中使用列的值发布它们? 这是我的源代码kafka连接器配置: