当前位置: 首页 > 知识库问答 >
问题:

从bucket到文件系统的一次缓慢传输

邢寒
2023-03-14

Im使用RCONE在微型存储桶和共享存储之间传输数据。我正在迁移一个商店,数据量约为200GB的产品图片。每个图片都有自己的文件夹/路径。因此,有很多文件夹需要创建来保存。Rclone安装在新服务器上,存储通过san连接到服务器。传输已经进行了一个多星期,我们现在的容量是170GB。一切都很好,但在我看来它真的很慢。从bucket到经典文件系统的传输有这么慢,这正常吗?

共有1个答案

东门胤
2023-03-14

(算算一下,速度只有2.3Mbps。老实说,我不会为此付出任何代价。)

也许你应该把问题分解开来,一部分一部分地诊断。下面是几个常见的地方,以防传输速度慢(一般来说,对于任何文件传输):

首先,网络和文件系统通常无法处理大量的小文件,因此要解决这个问题,请先将较大的文件上载到minio(1GB)。对于每个步骤,首先使用大文件进行测试。

  1. 震源的速度够快吗?尝试将文件从minio复制到本地存储器或Ramdisk(/tmp通常是tmpfs,反过来存储在RAM中,请使用mount进行检查)

同样,请分别对大文件和碎片文件执行这些步骤。碎片文件很可能是一个问题。如果是这样,我将尝试在rclone中寻找并发选项。

 类似资料:
  • 当我试图使用作为函数参数时,它在我的机器上执行segfaults。下面是一个最小的示例: 此代码段将导致以下来自gdb的回溯: 我在Ubuntu 19.10上使用GCC 8.3,我让其他人编译并运行此代码,在Windows上没有问题,因此它可能是中的一个错误

  • 本文阐述Apache如何根据URL地址定位到文件在文件系统中的位置。 相关模块和指令 相关模块 相关指令 mod_alias mod_proxy mod_rewrite mod_userdir mod_speling mod_vhost_alias Alias AliasMatch CheckSpelling DocumentRoot ErrorDocument Options ProxyPass

  • 我已经在Ubuntu 14.04上安装了hadoop。每当我将文件从本地文件系统复制到HDFS时,我都会出现以下错误。 我使用这个命令: 我遇到的错误是: 我是Linux环境的新手。我不明白哪个文件不存在。

  • 问题内容: 我必须测试一个Web应用程序,其中包含一个拖放区域,用于从本地文件系统上载文件。我的测试环境基于C#。 对于自动化测试,我使用了Selenium,但是无法从文件系统中拖动文件。上载区域是标签(无标签)。那么最好的方法是什么?AutoIt(是否可以放入网络浏览器)?西库利 问题答案: 单独使用硒是可能的,但这并不简单。它需要在页面中注入新元素以通过接收文件。然后,脚本需要通过发送模拟下降

  • 通过学习《 Linux一切皆文件》一节我们知道,平时打交道的都是文件,那么,应该如何找到它们呢?很简单,在 Linux 操作系统中,所有的文件和目录都被组织成以一个根节点“/”开始的倒置的树状结构,如图 1 所示。 图 1 Linux 系统文件和目录组织示意图 其中,目录就相当于 Windows 中的文件夹,目录中存放的既可以是文件,也可以是其他的子目录,而文件中存储的是真正的信息。 文件系统的最

  • type String - fileSystem. filsSystemURL String - 进行读取上传数据的文件系统URL。 offset Integer - 默认为0。 length Integer - 从 offset读取的字节数。默认为`0'。 modificationTime Double - 秒级的最后修改时间