Kafka Connect不输出JSON

Question

我正在使用JDBC Kafka连接器将数据从数据库读取到Kafka中。这有效，但它总是以 Avro 格式输出数据，即使我已经指定它应该使用 JSON。我知道它正在这样做，因为当我在 python 中使用来自该主题的消息时，我在每条消息的顶部看到架构。

我像这样运行连接器：

/usr/bin/connect-standalone /etc/schema-registry/connect-json-standalone.properties /etc/kafka-connect-jdbc/view.properties

connect-JSON-standalone . properties文件的内容是:

bootstrap.servers=localhost:9092

key.converter=org.apache.kafka.connect.json.JsonConverter
key.converter.schema.registry.url=http://localhost:8081
key.converter.schemas.enable=true
value.converter=org.apache.kafka.connect.json.JsonConverter
value.converter.schema.registry.url=http://localhost:8081
value.converter.schemas.enable=true

internal.key.converter=org.apache.kafka.connect.json.JsonConverter
internal.value.converter=org.apache.kafka.connect.json.JsonConverter
internal.key.converter.schemas.enable=false
internal.value.converter.schemas.enable=false

# Local storage file for offset data
offset.storage.file.filename=/tmp/connect.offsets

和/etc/Kafka-connect-JDBC/view . properties的内容是:

name=view-small-jdbc-daily
connector.class=io.confluent.connect.jdbc.JdbcSourceConnector
tasks.max=1
connection.url=jdbc:teradata://domain.com/charset=UTF8,DBS_PORT=1025,DATABASE=test,USER=***,PASSWORD=***,LOB_SUPPORT=OFF
mode=bulk
table.whitelist=test_table
topic.prefix=view5-

Answer 1

您的配置中存在两个问题：

1. 如果您使用的是JSONConverter，则不需要配置架构注册表 - 这仅适用于AvroConverter。因此，您可以删除key.converter.schema.registry.url和value.converter.schema.registry.url
2. 其次，你有key.converter.schemas.enable=true和value.converter.schemas.enable=true，所以你不应该对JSON包含一个模式感到惊讶。您指定我们应该包括它。如果您不想要架构，只需将其设置为 false