从url下载文件并将其上传到AWS S3而不保存 - node.js

Loo*_*urr 25 javascript amazon-s3 fs amazon-web-services node.js

我正在编写一个从URL下载图像的应用程序,然后使用aws-sdk将其上传到S3存储桶.

我以前只是下载图像并将它们保存到磁盘上.

request.head(url, function(err, res, body){

    request(url).pipe(fs.createWriteStream(image_path));

});
Run Code Online (Sandbox Code Playgroud)

然后像这样将图像上传到AWS S3

fs.readFile(image_path, function(err, data){
    s3.client.putObject({
        Bucket: 'myBucket',
        Key: image_path,
        Body: data
        ACL:'public-read'
    }, function(err, resp) {
        if(err){
            console.log("error in s3 put object cb");
        } else { 
            console.log(resp);
            console.log("successfully added image to s3");
        }
    });
});
Run Code Online (Sandbox Code Playgroud)

但我想跳过将图像保存到磁盘的部分.有什么方法可以pipe将响应request(url)转换为变量然后上传吗?

Loo*_*urr 29

这里有一些javascript做得很好:

    var options = {
        uri: uri,
        encoding: null
    };
    request(options, function(error, response, body) {
        if (error || response.statusCode !== 200) { 
            console.log("failed to get image");
            console.log(error);
        } else {
            s3.putObject({
                Body: body,
                Key: path,
                Bucket: 'bucket_name'
            }, function(error, data) { 
                if (error) {
                    console.log("error downloading image to s3");
                } else {
                    console.log("success uploading to s3");
                }
            }); 
        }   
    });
Run Code Online (Sandbox Code Playgroud)

  • 如上所述,代码一次将整个主体加载到内存中(作为"body"变量中的字符串).也就是说,这不会直接从请求流到S3.OTOH,如果"encoding"为null,请求将为"body"创建一个Buffer对象; 请参阅https://github.com/request/request#requestoptions-callback.我建议对这个答案进行编辑,将`encoding:'binary'改为`encoding:null`并消除`body = new Buffer(body,'binary')`.这将消除将整个"身体"存储在记忆中的需要,我认为这与原始问题和答案保持一致.但评论想要评论...... (8认同)
  • 我尝试了你的方法,使用隐式和显式编码,我发现我上传的 png 文件由于某种原因被损坏,无法弄清楚为什么。尝试复制此图像https://openclipart.org/image/250px/svg_to_png/264091/MirrorCarp.png,这就是我在我的桶中得到的http://images.quickhunts.com/clipart/23234234234.png (2认同)
  • 我想将此解决方案应用于我的应用程序,但请求模块已弃用我想使用 axios 迁移代码,有人可以帮助我吗? (2认同)

小智 6

这是我所做的并且效果很好:

const request = require('request-promise')
const AWS = require('aws-sdk')
const s3 = new AWS.S3()

const options = {
    uri: uri,
    encoding: null
};

async load() {

  const body = await request(options)
  
  const uploadResult = await s3.upload({
    Bucket: 'bucket_name',
    Key   : path,
    Body  : body,   
  }).promise()
  
}
Run Code Online (Sandbox Code Playgroud)


use*_*828 5

类似这样的事情怎么样:

const stream = require('stream');
const request = require('request');
const s3 = new AWS.S3()

const pass = new stream.PassThrough();

request(url).pipe(pass);

s3.upload({
    Bucket: 'bucket_name',
    Key: path,
    Body: pass,
});

Run Code Online (Sandbox Code Playgroud)