有没有一种简单的方法可以通过boto3重命名s3文件夹？

Question

我有一个带文件夹的s3 bucket，文件夹里有大文件。

我想用python3-boto3脚本重命名文件夹。

我读了这个（《如何用Python重命名亚马逊S3文件夹对象》），他正在做的是复制带有新前缀的文件，然后删除原始文件夹。

这是非常不高效的方法，因为我有大文件，所以需要很长时间才能完成。

有没有更简单/更有效的方法？

Answer 1

很简单，不，很不幸。

s3中的文件夹结构有很多“问题”，看起来存储是平的。

我有一个Django项目，在这个项目中，我需要重命名文件夹，但仍然保持目录结构不变，这意味着空文件夹也需要复制并存储在重命名的目录中。

aws cli很棒，但无论是cp还是sync还是mv都没有将空文件夹（即以“/”结尾的文件）复制到新的文件夹位置，所以我混合使用了boto3和aws cli来完成任务。

或多或少，我会在重命名的目录中找到所有文件夹，然后使用boto3将它们放在新位置，然后使用aws cli将数据删除。

import threading

import os
from django.conf import settings
from django.contrib import messages
from django.core.files.storage import default_storage
from django.shortcuts import redirect
from django.urls import reverse

def rename_folder(request, client_url):
    """
    :param request:
    :param client_url:
    :return:
    """
    current_property = request.session.get('property')
    if request.POST:
        # name the change
        new_name = request.POST['name']
        # old full path with www.[].com?
        old_path = request.POST['old_path']
        # remove the query string
        old_path = ''.join(old_path.split('?')[0])
        # remove the .com prefix item so we have the path in the storage
        old_path = ''.join(old_path.split('.com/')[-1])
        # remove empty values, this will happen at end due to these being folders
        old_path_list = [x for x in old_path.split('/') if x != '']

        # remove the last folder element with split()
        base_path = '/'.join(old_path_list[:-1])
        # # now build the new path
        new_path = base_path + f'/{new_name}/'
        # remove empty variables
        # print(old_path_list[:-1], old_path.split('/'), old_path, base_path, new_path)
        endpoint = settings.AWS_S3_ENDPOINT_URL
        # # recursively add the files
        copy_command = f"aws s3 --endpoint={endpoint} cp s3://{old_path} s3://{new_path} --recursive"
        remove_command = f"aws s3 --endpoint={endpoint} rm s3://{old_path} --recursive"
        
        # get_creds() is nothing special it simply returns the elements needed via boto3
        client, resource, bucket, resource_bucket = get_creds()
        path_viewing = f'{"/".join(old_path.split("/")[1:])}'
        directory_content = default_storage.listdir(path_viewing)

        # loop over folders and add them by default, aws cli does not copy empty ones
        # so this is used to accommodate
        folders, files = directory_content
        for folder in folders:
            new_key = new_path+folder+'/'
            # we must remove bucket name for this to work
            new_key = new_key.split(f"{bucket}/")[-1]
            # push this to new thread
            threading.Thread(target=put_object, args=(client, bucket, new_key,)).start()
            print(f'{new_key} added')

        # # run command, which will copy all data
        os.system(copy_command)
        print('Copy Done...')
        os.system(remove_command)
        print('Remove Done...')

        # print(bucket)
        print(f'Folder renamed.')
        messages.success(request, f'Folder Renamed to: {new_name}')

    return redirect(request.META.get('HTTP_REFERER', f"{reverse('home', args=[client_url])}"))

Answer 2

没有办法重命名s3对象/文件夹-您需要将它们复制到新名称，并不幸地删除旧名称。

aws cli中有一个mv命令，但它在幕后为您执行复制然后删除操作——因此您可以简化操作，但它不是真正的“重命名”。

https://docs.aws.amazon.com/cli/latest/reference/s3/mv.html