重用Amazon Elastic MapReduce实例

Mag*_*gie 11 mapreduce amazon-ec2 elastic-map-reduce

我尝试过使用简单的Map/Reduce任务Amazon Elastic MapReduce,只需3分钟即可完成任务.是否可以重用同一个实例来运行另一个任务.

即使我刚刚使用该实例3分钟亚马逊将收取费用1 hr,所以我想使用余额57分钟来运行其他几项任务.

Mat*_*one 14

答案是肯定的.

以下是使用命令行客户端执行此操作的方法:

当您创建实例时,会传递--alive标志,这会告诉emr在您的作业运行后保持群集.

然后,您可以向群集提交更多任务:

elastic-mapreduce --jobflow <job-id> --stream --input <s3dir> --output <s3dir> --mapper <script1> --reducer  <script2>
Run Code Online (Sandbox Code Playgroud)

要稍后终止集群,只需运行:

elastic-mapreduce <jobid> --terminate
Run Code Online (Sandbox Code Playgroud)

尝试运行elastic-mapreduce --help来查看可以运行的所有命令.

如果您没有命令行客户端,请在此处获取.