我想在没有写入磁盘的情况下将文件夹的内容从ftp服务器传输到s3中的存储桶.目前,s3获取文件夹中所有文件的名称,但没有实际数据.文件夹中的每个文件只有几个字节.我不太清楚为什么不上传整个文件.
from ftplib import FTP
import io
import boto3
s3= boto3.resource('s3')
ftp = FTP('ftp.ncbi.nlm.nih.gov')
ftp.login()
ftp.cwd('pubchem/RDF/descriptor/compound')
address = 'ftp.ncbi.nlm.nih.gov/pubchem/RDF/descriptor/compound/'
filelist = ftp.nlst()
for x in range(0, len(filelist)-1):
myfile = io.BytesIO()
filename = 'RETR ' + filelist[x]
resp = ftp.retrbinary(filename, myfile.write)
myfile.seek(0)
path = address + filelist[x]
#putting file on s3
s3.Object(s3bucketname, path).put(Body = resp)
ftp.quit()
Run Code Online (Sandbox Code Playgroud)
有没有办法确保整个文件上传?