将Python DataFrame作为CSV写入Azure Blob

Question

我有两个关于从/到Azure blob存储读取和写入Python对象的问题。

>

有人能告诉我如何将Python数据框作为csv文件直接写入Azure Blob而不在本地存储吗？

我尝试使用函数“从\u text创建\u blob\u”和“从\u stream创建\u blob\u”，但它们都不起作用。

将数据帧转换为字符串，并使用create\u blob\u from\u text函数将文件写入blob，但作为普通字符串，而不是csv。

df_b = df.to_string()
block_blob_service.create_blob_from_text('test', 'OutFilePy.csv', df_b)  

如何将Azure blob存储中的json文件直接读取到Python中？

Answer 1

批准的答案对我不起作用，因为它取决于Azure存储（截至2021年已弃用/遗留）包。我将其更改如下：

from azure.storage.blob import *
import dotenv
import io
import pandas as pd

dotenv.load_dotenv()
blob_block = ContainerClient.from_connection_string(
    conn_str=os.environ["CONNECTION_STRING"],
    container_name=os.environ["CONTAINER_NAME"]
    )
output = io.StringIO()
partial = df.DataFrame()
output = partial.to_csv(encoding='utf-8')
blob_block.upload_blob(name, output, overwrite=True, encoding='utf-8')

Answer 2

1. 有人能告诉我如何将Python数据帧作为csv文件直接写入Azure Blob而无需将其存储在本地吗？

你可以用熊猫。数据帧。to\u csv方法。

示例代码：

from azure.storage.blob import (
    BlockBlobService
)
import pandas as pd
import io

output = io.StringIO()
head = ["col1" , "col2" , "col3"]
l = [[1 , 2 , 3],[4,5,6] , [8 , 7 , 9]]
df = pd.DataFrame (l , columns = head)
print(df)
output = df.to_csv (index_label="idx", encoding = "utf-8")
print(output)

accountName = "***"
accountKey = "***"
containerName = "test1"
blobName = "test3.json"

blobService = BlockBlobService(account_name=accountName, account_key=accountKey)

blobService.create_blob_from_text('test1', 'OutFilePy.csv', output)

输出结果：

2、如何将Azure blob存储中的json文件直接读取到Python中？

示例代码：

from azure.storage.blob import (
    BlockBlobService
)

accountName = "***"
accountKey = "***"
containerName = "test1"
blobName = "test3.json"

blobService = BlockBlobService(account_name=accountName, account_key=accountKey)

result = blobService.get_blob_to_text(containerName,blobName)

print(result.content)

输出结果：

希望对你有帮助。