当前位置: 首页 > 知识库问答 >
问题:

amazon athena和confluent schema注册表

濮冠宇
2023-03-14

我们计划将事件从Kafka转移到S3(例如通过使用Kafka连接)。目标是启动服务(如amazon Athena),并在导出的avro事件之上提供查询接口。障碍是amazon Athena avro SerDe(使用org.apache.hadoop.hive.serde2.avro.AvroSerDe)不支持schema registry用于存储schema id的魔法字节。您知道有什么替代方案可以很好地使用合流schema registry吗?

谢啦!

共有1个答案

卫君博
2023-03-14

使用S3 Connect的AvroConverter不会在文件中放置任何模式ID。事实上,在写入消息后,您将完全丢失模式ID。

我们有很多Hive表可以很好地处理这些文件,用户正在使用Athena、Presto进行查询。SparkSQL等。

注意:如果您想使用AWS Glue,S3 Connect(目前,从5.x开始)不像HDFS连接器那样提供自动配置单元分区创建,因此如果您想这样使用它,您可能需要寻找替代方法。

 类似资料:
  • 安装帮助 有关安装问题的帮助信息,请访问安装支持中心,网址是 www.adobe.com/go/cs4install_cn。 许可激活 在安装过程中,您的 Adobe 软件会联系 Adobe 以完成许可激活过程。不会传输个人数据。有关产品激活的详细信息,请访问 Adobe 官方网站 www.adobe.com/go/activation_cn。 单用户零售许可激活支持两台计算机。例如,您可以在办公

  • DaoCloud 账号的注册 感谢您对 DaoCloud 的关注和支持,本文将带您一步一步地加入到 DaoCloud 的大家庭中。希望您能通过 DaoCloud 快速地学习并灵活地使用 Docker 进行项目代码的开发、测试和部署。 在使用 DaoCloud 提供的优质服务之前,您需要先注册一个属于您或您的团队的 DaoCloud 账号。DaoCloud 十分重视用户体验的简易性和灵活性,所以我们

  • 我有一个Kafka消费者配置了主题中的模式轮询,我想做的是在当前模式的基础上创建另一个Avro模式,并使用它水合数据,基本上我不需要50%的信息,需要编写一些逻辑来更改几个字段。这只是一个例子 从stream返回的事件相当复杂,所以我将一个较小的CustomObj建模为. avsc文件,并将其编译成java。当尝试使用CustomObj运行代码时,我想做的就是使用一个事件,然后将其反序列化为一个更

  • 源代码 ENS注册表是ENS系统中的核心合约,所有的ENS查询都从注册表开始。注册表负责管理域名列表,记录每个域名的所有者、解析器和TTL,并允许域名的所有者对这些数据进行更改。 ENS注册表的详细信息请参阅EIP137。 获取所有者 function owner(bytes32 node) external view returns (address); 1 以上函数返回node所标识域名的所有

  • POST /users 输入 名称 类型 描述 name 字符串 必须,用户名 phone 字符串 如果 verifiable_type 为 sms 则必须, 手机号码。 email String 如果 verifiable_type 为 mail 则必须, E-Mail。 password String 可选,密码,如果不输入密码,允许用户无密码注册。 verifiable_type 枚举:

  • 注册(创建账号)PlayStation®Network后,即可享受游玩在线游戏、在(PS Store)免费下载体验版游戏等乐趣。注册PlayStation®Network无需支付任何费用。此外,亦可在PS Vita上延用已在其它主机创建的账号。 请在可连接互联网的环境轻触[PlayStation®Network]>[注册],进行设定。 PlayStation®Network提供国家、区域和语言因地