使用Google App Engine作为机器学习预测引擎

Question

我没有使用Google App Engine的经验,但我是一位非常有经验的Java开发人员.

我有兴趣通过Google App Engine设置REST API,您可以在其中为其提供数据,并使用我单独生成的预测模型进行预测.

组成预测模型的数据可以是从几百千字节到gzip时的几兆字节,在解压缩时可以是几倍.当存储在内存中时,它基本上由10-30个HashMaps组成,每个HashMaps包含从少数到数万个条目的任何地方.

在预测过程期间,从这些HashMaps中检索数据并以各种方式组合以便得出最终预测.重要的是,尽可能快地发生这种情况,以最大限度地减少API的延迟,这就是我希望将HashMaps保留在内存中的原因.

在Google App Engine中,有没有办法将这些数据存储为序列化文件,以便在启动时加载？我意识到我可以将数据存储在数据存储区中的HashMaps中并根据需要检索它们,但我担心这会相当慢,因为典型的预测可能需要从不同的HashMaps中检索30个不同的值.

即使使用Memcache,我也担心这会比将数据存储在JVM中的HashMaps中慢得多.

Answer 1

传统上，App Engine 实例会定期被终止，因此您无法在请求之间将 HashMap 保留在内存中。

然而，最近发布的后端功能已经消除了这一限制。

每个后端实例最多可以保留 1GB 内存，并且将在请求之间保持运行状态（尽管它们偶尔会崩溃，因此您应该在设计时考虑到这一点）。

出于您的目的，这可能值得研究。