当前位置: 首页 > 知识库问答 >
问题:

从本地计算机上传一个大CSV文件(8GB)到Google云存储/BigQuery表的最快方法是什么?

汝臻
2023-03-14

提前感谢!

共有1个答案

鲜于德业
2023-03-14
gsutil cp [OBJECT_LOCATION] gs://[DESTINATION_BUCKET_NAME]/
 类似资料:
  • 我正试图从控制台/命令行将一个表从big query导出到google cloud storage。控制台作业运行了几分钟,并在没有任何错误代码的情况下出错,命令行作业在运行一段时间后也会出现以下错误: 提取操作中的BigQuery错误:错误处理作业“数据流-实验:BQJOB_R308FF0F73D1820A6_00000157F77E8AB9_1”:后端错误。作业中止。 上面给出了命令行的作业i

  • 我试图在bigquery中创建一个表,从google存储中传输csv。这个csv有3000万行,我得到了这些错误,例如: 读取数据时出错,错误消息:行中从位置2543333656开始的值太多。找到4列,而预期为3列 读取数据时出错,错误消息:行中从位置254312106开始的值太多。找到4列,而预期为3列 这很尴尬,我的csv中没有所有这些行。它在2.5亿行中发现了一个错误。怎么可能?? 非常感谢

  • 我正试图上传一个250 MB的csv文件。基本上是400万行6列的时间序列数据(1分钟)。通常的程序是: 这个过程大约需要20分钟!!!。非常初步,我已经探索了以下选项 分块上传,然后把这些块放在一起 HDF5 “羽毛” “泡菜” 我想知道是否有人比较了这些选项(或更多),并且有一个明显的赢家。如果没有人回答,将来我会公布我的结果。我只是现在没有时间。

  • 我在本地开发服务器上运行代码,但使用在项目上配置的GCS默认桶名。 Python 2.7版

  • Firebase Admin SDK文档清楚地说明,服务帐户对存储帐户具有完全的范围控制,但由于传输令牌源为nil,因此正确引导凭据似乎有些错误。

  • 我有一个要求,我需要上传文件到谷歌云存储(他拥有并完全维护它)桶。 这个谷歌云存储桶是由我的客户创建的。 我是谷歌云的新手,有亚马逊S3的经验。我在服务器上运行SSI,以将事务数据加载到平面文件。 我为谷歌云创建了一个示例帐户,并安装了谷歌SDK。我可以通过gsutil手动上传文件。 我的问题是 > 我应该如何建议我的客户共享凭据? 我如何连接到谷歌云存储与提供凭据独立? 如何通过以上两个步骤将文