小编Sat*_*hmo的帖子

麻烦使用Python通过流将数据从FTP服务器传输到S3

我想在没有写入磁盘的情况下将文件夹的内容从ftp服务器传输到s3中的存储桶.目前,s3获取文件夹中所有文件的名称,但没有实际数据.文件夹中的每个文件只有几个字节.我不太清楚为什么不上传整个文件.

from ftplib import FTP
import io 
import boto3


s3= boto3.resource('s3')

ftp = FTP('ftp.ncbi.nlm.nih.gov')
ftp.login()
ftp.cwd('pubchem/RDF/descriptor/compound')

address =  'ftp.ncbi.nlm.nih.gov/pubchem/RDF/descriptor/compound/'

filelist = ftp.nlst()

for x in range(0, len(filelist)-1):
    myfile = io.BytesIO()
    filename = 'RETR ' + filelist[x]
    resp = ftp.retrbinary(filename, myfile.write)
    myfile.seek(0)
    path = address + filelist[x]
    #putting file on s3
    s3.Object(s3bucketname, path).put(Body = resp)


ftp.quit()
Run Code Online (Sandbox Code Playgroud)

有没有办法确保整个文件上传?

python ftp amazon-s3

7
推荐指数
1
解决办法
1466
查看次数

标签 统计

amazon-s3 ×1

ftp ×1

python ×1