提高Amazon EC2上的数据传输率

Meh*_*ANI 11 amazon-ec2 amazon-ebs amazon-web-services

我有一个1-Gig EBS卷安装到EC2实例,我从本地硬盘驱动器(通过RDS连接)复制600MB二进制数据,复制过程窗口显示剩余10小时.虽然我有一个高速连接(100 + Mbps)

无论数据量是多少,数据传输速率都是1分钟/ MB(即16Kbs /秒),
我在工作站前阅读Moby Dick或只休假一天时犹豫不决.

有没有合理的选择来加快这个转移率?
(理想情况下至少为512 Kbps /秒)

我对任何解决方案都非常开放,以缩短上传/下载时间和EC2实例.

提前致谢.

编辑:
我只是偶然发现[亚马逊出口/导入服务] [1]" AWS Import/Export加速在您发送给我们的AWS云和便携式存储设备之间传输大量数据 "
通过"邮寄给我们",他们字面意思意味着您"实质性"将您的存储设备运送到亚马逊.
不要说这是Stoneage,这是BRAND新技术,老兄!:-)

EDIT2:
这听起来很棒:[Aspera for AWs] [2]但不幸的是太贵了;
财富500强为大型需求和大笔现金量身定制.

Meh*_*ANI 15

有时候,如果你想做点什么,最好自己动手:-)

我没有找到任何令人满意的网络,所以我花了一个晚上做了一个相当完整的台架测试.我测试了一些替代/场景,结果如下:

安装在EC2上的FTP服务器是Filezilla Server(正确配置很敏感)
用于此Bench测试的FTP客户端是WinSPC(Filezilla客户端无法正常工作.请参阅其他帖子
图例:[HC]代表家庭连接(100MBps)

上传带宽
RDS上传:15 Kb/S =>更糟糕的
FTP上传[EC2上安装的FTP服务器]:100 Kb/S
从AWS管理控制台上传到S3:60 Kb/S
使用来自EC2的AWS Console界面上传到S3:145 Kb/S
使用S3浏览器从HC 上传到S3 :120 Kb/S
使用S3浏览器从EC2 上传到S3 :2000 Kb/S

下载带宽
RDS下载和上传:15 Kb/S =>更糟的
FTP下载[安装在EC2上的FTP服务器]:360 Kb/S
从EC2下载S3 AWS Console界面:350 Kb/S
使用S3浏览器从S3下载:来自HC:380至620 Kb/S
使用S3浏览器从S3下载:来自EC2:3000 Kb/S.

结论:

因此,截至目前,Amazon S3与S3 Browser结合使用可获得最佳效果.(S3浏览器只是S3上的一层我不知道为什么上传率更好)

但是,应该记住,EC2实例上的FTP服务器具有将本地EC2目录直接映射到EC2的巨大优势.与S3不同,只涉及一次转移.实际上,S3需要2次转移:将本地资源转换为S3 /以及从S3转换为EC2,反之亦然,而FTP Access通过缩短转移周期来实现即时性.此外,它节省了S3 Buckets的成本.

有趣的是,EC2 Instance的带宽非常强大.因此,使用真正利用它的协议(如S3或FTP,而不是RDS)更为有趣 - 无用.

我希望这对面临同样问题的其他人有用,并为他们节省宝贵的时间.

  • 你确定速率只有2000 Kb/s - > 2Mb/s 256 KB/s太低了.一定有某种问题.我通过HTTPS获得的速率约为80 Mb/s(10 MB/s). (2认同)