当前位置: 首页 > 知识库问答 >
问题:

使用复制命令和清单文件将parquet格式文件加载到Amazon Redshift时出错

魏彦
2023-03-14

将testtable从's3://sbredshift-east/manifest/supplier.manifest'IAM_ROLE'arn:aws:iam::123456789:role/myredshiftrole123'格式复制为PARQUET manifest;

这是我的舱单文件

**{  
   "entries":[  
      {  
         "url":"s3://sbredshift-east/data/000002_0",
         "mandatory":true,
         "meta":{  
            "content_length":1000
         }
      }
   ]
}**

我可以通过指定文件名来使用复制命令加载相同的文件。

共有1个答案

姜玉泽
2023-03-14

当content_length值错误时,就会发生此错误。必须指定正确的content_length。您可以执行一个s3 ls命令来检查它。

aws s3 ls s3://sbredshift-east/data/
2019-12-27 11:15:19        539 sbredshift-east/data/000002_0

539(文件大小)应该与清单文件中的content_lenght值相同。

我不知道为什么他们在直接复制命令中不需要这个元值的时候使用这个元值。

 类似资料:
  • 我正在使用wget命令将文件上载到http。 这是我的错误消息: `FOLDER\u NAME'解析示例。网络。。。我连接到示例。净值| 10.00.00.009 |:80。。。有联系的。HTTP请求已发送,正在等待响应。。。401连接示例时拒绝访问。净值| 10.00.00.009 |:80。。。有联系的。HTTP请求已发送,正在等待响应。。。500内部服务器错误 请帮助解决此错误。 注意:服务

  • 问题内容: 当用户单击HTML元素中的“浏览”按钮时,我想限制可以从本机OS文件选择器选择的文件类型。我有一种感觉,这是不可能的,但我想知道是否有_是_ 一个解决方案。我只想保留HTML和JavaScript;请不要使用Flash。 问题答案: 严格来说,答案是 否定的 。开发人员 无法 阻止用户上传任何类型或扩展名的文件。 但是,仍然可以使用的 accept 属性在OS的文件选择对话框中提供过滤

  • 我需要将/data/files目录中的一堆文件移动到一个新的文件夹结构中。在/data目录中,我有一个清单文件,其中包含每个文件的完整工作路径。 源文件: 清单文件包含: 我需要帮助编写一个shell脚本,它将在清单中找到文件名并运行一个copy命令。如果目录结构不存在,创建它。 如何从文件的完整路径获取文件名? 如何在复制文件之前创建目录?

  • 我试图使用R将多个parquet文件加载到一个Spark表中。附加的代码显示了我是如何做到这一点的。

  • 问题内容: 我想执行构建后步骤,以使用MSDeploy将某些文件复制到网站文件夹中。 最终,我将在远程位置执行此操作(指定,开关等),但是现在我在本地运行: 此方法有效,但是它将删除网站文件夹的 所有 内容,并将其替换为“ D:\ files_to_copy”的内容(如您所料!)。因此,我想知道如何将其简单地复制到站点的子文件夹中? 我已经尝试过了,但这只是创建了一个嵌套在现有IIS应用程序中的新

  • cp 命令,主要用来复制文件和目录,同时借助某些选项,还可以实现复制整个目录,以及比对两文件的新旧而予以升级等功能。 cp 命令的基本格式如下: [root@localhost ~]# cp [选项] 源文件 目标文件 选项: -a:相当于 -d、-p、-r 选项的集合,这几个选项我们一一介绍; -d:如果源文件为软链接(对硬链接无效),则复制出的目标文件也为软链接; -i:询问,如果目标文件已经