如何减少Google App Engine数据存储延迟？

Question

通过appstats,我可以看到我的数据存储区查询大约需要125ms(api和cpu组合),但在执行查询之前通常会有很长的延迟(例如最多12000ms).

我可以看到来自数据存储区的延迟与我的查询无关(例如,相同的查询/数据具有截然不同的延迟),所以我假设它是app引擎的调度问题.

其他人是否也看到同样的问题？

有没有减少延迟(例如管理控制台设置)？

这是appstats的屏幕截图.这个servlet只有很少的cpu处理.它执行getObjectByID,然后执行数据存储区查询.该查询具有OR运算符,因此它被app引擎转换为3个查询.

.如您所见,在第一个getObjectByID执行之前需要6000ms.get操作之前没有处理(除了获取pm).我认为这6000ms的延迟可能是由于实例预热,所以我将我的空闲实例增加到2以防止任何热身.

然后在getObjectByID和查询之间有大约1000ms的第二个延迟.get和查询之间没有代码行.代码只是获取getObjectByID的结果,并将数据用作查询的一部分.

总计是8097ms,但我的数据存储操作(以及99%的servlet)只有514ms(45ms api),尽管每次运行servlet时数字都会改变.这是另一个appstats屏幕截图,它是针对相同数据在同一个servlet上运行的.

这是我的java代码的基础知识.出于安全考虑,我不得不删除一些细节.

user = pm.getObjectById(User.class, userKey);           
//build queryBuilder.append(...
final Query query = pm.newQuery(UserAccount.class,queryBuilder.toString());
query.setOrdering("rating descending");
query.executeWithArray(args); 

编辑:使用Pingdom,我可以看到GAE延迟从450毫秒到7,399毫秒不等,或差异为1,644%!! 这是两个空闲实例,网站上没有用户.

Answer 1

在我的一些应用程序中,我观察到非常类似的延迟(在7000-10000ms范围内).我不认为问题的大部分(6000毫秒)在于你的代码.

在我的观察中,问题与AppEngine启动新实例有关.设置最小空闲实例可能有助于缓解但它无法解决它(我尝试了多达2个空闲实例),因为基本上即使你有N个空闲实例,应用程序引擎也会更喜欢启动动态的实例,即使单个请求进来,也会如果发生疯狂的流量高峰,请"保存"闲置的.这是非常反直觉的,因为您希望它使用已经存在的实例并为将来的请求启动动态实例.

无论如何,根据我的经验,这个问题(10000毫秒延迟)很少发生在任何非零负载下,很多人每隔几分钟就不得不恢复一些ping(可能是cron工作)的王(曾经工作5分钟)但是最近实例的死亡速度更快,所以它更像是每2分钟一次ping一次)来保持动态实例,以便为没有其他人开启的网站用户提供服务.这种ping是不理想的,因为它会消耗你的免费配额(每隔5分钟就会吃掉一半以上),但到目前为止我还没有找到更好的选择.

回顾一下,总的来说,我发现app引擎在加载时非常棒,但是当你在网站上只有很少(1-3)个用户时,它就不是很出色.