使用Boto告诉文件何时成功上传到Glacier

Question

目前我正在使用Amazon Web Services(AWS)并打开S3存储桶,将其内容保存到EC2中的目录,然后从该目录中的所有内容创建tar文件并将该tar文件推送到AWS Glacier.我试图完成的最后一步是在tar文件成功上传到AWS Glacier时需要终止脚本(需要3-5个小时).

目前,我很难理解如何获取archive_id并询问保险库是否已成功加载tar文件.

要与AWS Glacier交互,我一直在使用python boto工具.我包含了将文件上传到冰川的python\boto代码以及我试图运行的一些快速测试,以确定代码是否已成功上传.到目前为止,所有测试都返回错误.

我排除了一些关于status_code的测试,这些测试也为所有内容返回false,当我尝试打印出任何这些时,只有未完成和正在进行中(正如预期)打印出任何内容,但是当我尝试匹配archive_id时或者retrieve_job到工作列表中返回的内容我没有匹配.另外一个注释是打印时保存的列表,它们都是相同的(Job(arn:aws:glacier:us-east-1:232412618534:vaults/glacier-poc))

如何在工作完成后返回true？

    import boto
    import sys

    ACCESS_KEY_ID = "..."
    SECRET_ACCESS_KEY = "..."
    FILENAME = sys.argv[1]
    GLACIER_VAULT_NAME = sys.argv[2]

    connection = boto.connect_glacier(aws_access_key_id=ACCESS_KEY_ID, aws_secret_access_key=SECRET_ACCESS_KEY)

    vault = connection.get_vault(GLACIER_VAULT_NAME)

    archive_id = vault.upload_archive(FILENAME)

    open("glacier.txt", "a").write(FILENAME + " " + archive_id + "\n")

    retrieve_job = vault.retrieve_archive(archive_id)

    a = vault.list_jobs(completed=True)
    b = vault.list_jobs(completed=False)

    print "Is In Completed List"
    print archive_id in a
    print "Is In NOT Completed List"
    print archive_id in b

    print "Is In Completed List"
    print retrieve_job in a
    print "Is In NOT Completed List"
    print retrieve_job in b

Answer 1

看看这个Boto 和 Glacier 指南，您可以从 boto 手动轮询它，也可以设置 Amazon Simple Notification Service 在工作完成时通知您。

archive_id = vault.upload_archive("mybackup.tgz")
retrieve_job = vault.retrieve_archive(archive_id)

# if the job is in progress
job_id = retrieve_job.id
retrieve_job = vault.get_job(job_id)

if retrieve_job.completed:
    job.download_to_file("mybackup.tgz")

您可以使用 boto 的set_vault_notifications函数设置 SNS 通知。

notification_config = {'SNSTopic': 'my_notification_topic',
                       'Events': ['ArchiveRetrievalCompleted',
                                  'InventoryRetrievalCompleted']}
vault.set_vault_notifications(vault, notification_config)

这是通过设置 SNS 通知订阅到 SQS 队列服务来等待上传的广泛示例。