当前位置: 首页 > 知识库问答 >
问题:

Kinesis消防软管将csv数据加载到红移

邰伟彦
2023-03-14

Json格式对我来说很好,数据被加载到redshift表中。

用于JSON的复制命令:

从's3://foldername/'CREDENTIALS'aws_iam_role=arn:aws:iam:::role/'MANIFEST json'auto'复制products_json;

用于CSV的复制命令:

从's3://foldername/'CREDENTIALS'aws_iam_role=arn:aws:iam:::role/'清单CSV复制products_csv;

CLI命令将CSV记录:

共有1个答案

司马奇希
2023-03-14

我能够克服这个问题,通过在红移中解锁以下IP来提供对红移的消防软管访问

52.70.63.192/27美国东(北维吉尼亚)52.89.255.224/27美国西(俄勒冈)52.19.239.192/27欧盟(爱尔兰)

这些Ip地址被firehose用来与Redshift通信

 类似资料:
  • null 我如何解决这个问题?

  • 我想使用terraform、Kinesis数据流和数据消防软管创建,并将它们连接(作为管道)。当我使用UI时,当我去消防软管时,我可以去源- 这是创建动觉流的代码(我从官方动觉文档中获取): 这是数据消防水带的代码: 那么我如何连接它们呢,是不是类似于${aws\u kinesis\u stream.test\u stream.arn}?或者类似的东西? 我使用了aws_kinesis_strea

  • 我正在使用Kinesis消防软管通过S3向Redshift传输数据。我有一个非常简单的csv文件,如下所示。消防水管把它放到s3,但红移错误,分隔符没有找到错误。我已经查看了与此错误相关的所有帖子,但我确保包括了分隔符。 以防万一,这是我的kinesis流看起来像消防水管 有人能指出文件可能有什么问题吗?我在字段之间加了一个逗号。目标表中的所有列都是varchar,因此不应该有datatype错误

  • 对于我的应用程序日志,我计划将日志从我的内部服务器转发到AWS Kinesis Firehose。我正在尝试使用Logstash和log-stash-output-plugin https://github.com/samcday/logstash-output-kinesis 但我认为这个插件需要将日志数据转发到Kinesis数据流,然后我们可以创建一个管道到Kinesis消防水管。如果我们指向

  • 有没有办法查询AWS Kinesis Firehose的当前统计数据,比如 当前缓冲区中的记录数? 占用了多少缓冲区?