在amazon ec2/S3上开发数字运算应用程序的工作流程

sig*_*ker 8 cloud machine-learning amazon-s3 amazon-ec2 data-analysis

关于在EC2/S3上部署数据处理应用程序的文章很多,但我想知道,开发此类应用程序的典型工作流程是什么?

假设我有一个1 TB的时间序列数据,我已经设法将其存储在S3上.我如何编写应用程序并进行交互式数据分析以构建机器学习模型,然后编写大型程序来测试它们?换句话说,如何在这种情况下建立开发环境?我是否启动EC2实例,在其上开发软件并保存我的更改,并在每次我想做一些工作时关闭?

通常,我启动R或Pylab,从本地驱动器读取数据并进行分析.然后我根据该分析创建应用程序,并让它在该数据上松散.

在EC2上,我不确定我是否可以这样做.人们是否在本地保存数据以进行分析,并且只有在运行大型模拟作业时才使用EC2?

我很想知道其他人在做什么,特别是那些拥有基于EC2/S3的整个基础设施的初创公司.

Eri*_* J. 2

我们创建一个基线、自定义 AMI,其中包含 AMI 上我们始终需要的所有程序。

我们开发(并不断更新)的软件存储在外部存储中(我们使用 Maven 存储库,但您可以使用任何适合您的环境的软件。

然后,我们启动自定义 AMI,其中包含我们所需的一切,从 Maven 部署最新版本的软件,然后就可以开始了。

所以工作流程是:

设置

使用我们始终需要的东西创建自定义 AMI

进行中

本地开发软件 将二进制文件部署到外部存储(在我们的例子中为 Maven 存储库) 根据需要启动自定义 AMI 的多个实例 将二进制文件从外部存储复制到每个实例 在每个实例上运行