AWS Lambda上基于GPU的算法

Ama*_*lik 6 java amazon-ec2 amazon-web-services aws-lambda

我有一个函数,需要执行一些数学运算,并且需要一个16gb GPU系统,但是该函数不会始终被触发,其余时间我的系统将不会使用。我开始了解AWS Lambda。我可以在Lambda上运行基于GPU的算法吗?这样,每当需要GPU时,我都可以将系统安装在云上。我需要一些描述。

Nei*_*eil 10

目前 lambda 没有 GPU。

但是,如果您只需要进行推理;通过 CPU 进行的模拟在 AWS lambda 上运行良好;这是一篇文章,其中介绍了更多详细信息:

https://aws.amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/


小智 6

您无法为AWS Lambda函数指定运行时环境,因此,您不能要求存在GPU(实际上,AWS选择放入其Lambda池中的物理机几乎肯定没有)。

最好的选择是将GPU要求功能作为批处理作业运行在配置为使用p型实例的计算群集上。这里的指南可能会有所帮助。