我写了一个python脚本来处理非常大的文件(总共几TB),我将在EC2实例上运行.之后,我想将处理过的文件存储在S3存储桶中.目前,我的脚本首先将数据保存到磁盘,然后将其上传到S3.不幸的是,考虑到等待实例首先写入磁盘然后上载所花费的额外时间,这将是非常昂贵的.
有没有办法使用boto3直接将文件写入S3存储桶?
编辑:为了澄清我的问题,我问我是否在内存中有一个对象,直接将该对象写入S3而不先将对象保存到磁盘上.
python amazon-s3 amazon-web-services boto3
amazon-s3 ×1
amazon-web-services ×1
boto3 ×1
python ×1